Era digital makin ramai, tapi juga makin berbahaya. Lonjakan konten berbahaya, dari disinformasi hingga deepfake, membuat pemerintah Indonesia kini menekan platform besar seperti TikTok, Meta, hingga YouTube untuk lebih tegas dalam memoderasi konten. Pertanyaannya: apakah langkah ini cukup, dan bagaimana peran masyarakat?
Deepfake: Dari Hiburan ke Ancaman Nyata
Deepfake awalnya dianggap teknologi kreatif, dipakai untuk hiburan atau parodi. Namun, tren berubah cepat. Data Kementerian Komunikasi dan Digital (Kemenkomdigi) menunjukkan konten deepfake meningkat lebih dari 500% dalam beberapa tahun terakhir. Dari manipulasi wajah hingga suara palsu, teknologi ini kini sering dipakai untuk penipuan, hoaks politik, bahkan pornografi non-konsensual.
Wamenkomdigi Nezar Patria bahkan mendesak platform global menyediakan fitur gratis bagi publik untuk mendeteksi apakah sebuah konten dibuat oleh AI. Tujuannya sederhana: agar masyarakat tidak gampang terkecoh.
Regulasi yang Tengah Disiapkan
Pemerintah Indonesia sudah punya dasar hukum, mulai dari UU ITE hingga UU Perlindungan Data Pribadi (PDP). Namun, regulasi khusus soal konten manipulatif AI seperti deepfake masih digodok. Beberapa inisiatif baru antara lain:
-
Sistem SAMAN (Sistem Kepatuhan Moderasi Konten) yang mulai diterapkan Februari 2025 untuk mengawasi konten ilegal di platform digital.
PP Nomor 17 Tahun 2025 tentang penyelenggaraan sistem elektronik, yang juga menyoroti perlindungan anak di ruang digital.
Aturan khusus deepfake yang tengah diperdebatkan: apakah dibuat spesifik untuk teknologi tertentu, atau lebih umum agar fleksibel mengikuti perkembangan.
Moderasi: Efektif atau Sekadar Reaktif?
Meski ribuan konten berbahaya sudah diturunkan, kritik tetap muncul. Moderasi dinilai masih bersifat reaktif---baru bergerak setelah konten viral dan meresahkan publik. Selain itu, standar tiap platform berbeda, sehingga membingungkan masyarakat.
Isu lain adalah transparansi. Publik sering tidak tahu alasan sebuah konten dihapus, sementara konten serupa bisa lolos begitu saja. Celah ini bisa menimbulkan ketidakpercayaan pada sistem moderasi, bahkan memicu tuduhan "sensor" yang berlebihan.
Peran Pengguna: Jangan Hanya Jadi Penonton
Tanggung jawab memerangi disinformasi dan deepfake bukan hanya milik pemerintah atau perusahaan teknologi. Pengguna juga punya peran besar, di antaranya:
