Anonimitas inilah yang menyebabkan pengguna merasa memiliki kekuatan atau perlindungan karena identitas mereka tidak diketahui. Anonimitas juga adalah salah satu faktor mengapa deepfake dapat berkembang luas di sosial media. Para pembuat konten deepfake dapat berlindung di balik anonimitas akun sosial media mereka, yang seringkali bahkan menggunakan email atau nomor telepon palsu. Hal ini menjadi masalah ketika konten deepfake yang diunggah berbau pornografi atau hoax, karena pelaku menjadi lebih sulit dilacak untuk diminta pertanggungjawaban.
Deepfake di Indonesia
Indonesia adalah negara yang memiliki minat literasi yang minim. Rendahnya minat baca masyarakat Indonesia adalah salah satu faktor yang mengakibatkan masyarakat Indonesia mudah termakan hoax. Dengan adanya teknologi deepfake, makin mudah bagi orang yang tidak bertanggung jawab untuk membuat konten hoax yang meyakinkan.
Selain untuk menciptakan konten palsu, deepfake juga dikhawatirkan dapat digunakan untuk menciptakan konten pornografi tidak benar yang dapat merusak harga diri dan nama baik korban. Belakangan ini, sudah banyak berseliweran berita adanya aplikasi atau website yang mampu ‘melucuti’ pakaian hanya dengan mengunggah foto korban ke aplikasi atau website tersebut. Jelas, kasus ini sudah masuk ke ranah kekerasan seksual dan harus ditindaklanjuti secara serius karena dapat mengakibatkan kejatuhan moral bangsa. Pasalnya, tidak hanya orang dewasa, anak kecil pun dapat menjadi korban dari kekerasan seksual berbasis AI yang didasarkan pada teknologi deepfake ini.
Di Indonesia sendiri belum ada hukum atau undang-undang yang secara eksplisit mengatur tentang deepfake, sehingga konsekuensi yang dapat diberikan kepada pelaku yang tidak bertanggung jawab masih sangat minim dan tidak pasti.Â
Penggunaan teknologi deepfake yang tidak bertanggung jawab dan tidak diatur undang-undang dapat menghambat perkembangan Indonesia di tahun 2024 ini. Dengan terus berkembangnya manusia, teknologi deepfake dapat disalahgunakan untuk mengakibatkan kecemasan, kerusuhan, dan terganggunya hidup sehari-hari warga. Teknologi ini tidak dapat dinormalisasi dan diintegrasikan dalam kehidupan berbangsa dan bernegara masyarakat Indonesia, sebab dengan anonimitas yang disediakan sosial media, semua orang dapat menjadi korban deepfake.
