Tahun 2024 menjadi saksi bagi perkembangan teknologi yang membawa kita ke era di mana batas antara realita dan imajinasi menjadi semakin kabur. Baru-baru ini, muncul tren baru di berbagai sosial media, terutama TikTok. Trennya sebenarnya simple, yaitu hanya membuat cover lagu. Namun, yang membuat tren ini ramai adalah penggunaan teknologi kecerdasan buatan (Artificial Intelligence/AI) untuk membuat cover lagu tersebut.Â
Pasalnya, orang-orang yang menyanyikan cover tersebut aslinya tidak pernah menyanyikannya. Menggunakan teknologi AI yang disebut deepfake, pengguna dapat menginput suara orang lain dan memanipulasinya sehingga pemilik suara tampak seperti menyanyikan lagu yang sebenarnya tidak pernah dia nyanyikan. Tidak tanggung-tanggung, AI telah menjadi begitu cerdas sehingga hasil deepfake dapat terdengar begitu meyakinkan.
Lantas, apa Buruknya? Kan Cuma Tren?
Deepfake merupakan kata gabungan dari ‘deep learning’ dan ‘fake’ karena deepfake menciptakan konten palsu (fake) melalui teknologi kecerdasan buatan (Artificial Intelligence/AI). Melansir dari Astra Digital, deepfake adalah jenis AI yang mampu menghasilkan konten grafis atau audio yang menampilkan individu melakukan atau mengatakan sesuatu yang tidak pernah mereka lakukan. Kasarnya, deepfake adalah teknologi manipulasi konten dengan menciptakan video/foto/audio dengan konteks yang diinginkan pembuatnya, tetapi dengan menggunakan template wajah atau suara orang lain.
Tren cover lagu di TikTok hanyalah satu dari banyak hal yang dapat dilakukan menggunakan teknologi deepfake. Contoh tersebut adalah kegunaan deepfake dalam ranah hiburan, hingga tidak berakibat berbahaya. Namun, coba bayangkan, bagaimana bila teknologi tersebut digunakan untuk membuat konten palsu yang menyangkut hal-hal yang lebih berbahaya?
Deepfake Sudah Menjadi Kekhawatiran Sejak Lama
Kekhawatiran terhadap deepfake bukanlah sesuatu yang baru. Sejak tahun 2017-an, sudah muncul banyak argumen di sosial media tentang bahaya dari deepfake. Kemampuan deepfake untuk membuat konten visual atau audio yang meyakinkan merupakan sesuatu yang menjadi objek kecemasan banyak orang. Jika melihat dari sifat dan kemampuannya, fungsi positif dari deepfake hanyalah sebagai hiburan. Sementara, ada banyak resiko dan fungsi negatif yang dapat dihasilkan bila teknologi ini disalahgunakan.
Setelah melihat perkembangannya selama hampir satu dekade, publik mengkhawatirkan penggunaan deepfake yang cenderung menjurus ke pornografi dan hoax. Contohnya, di tahun 2023, video Presiden Joko Widodo pernah viral di sosial media karena berisi dirinya berpidato dalam Bahasa Mandarin. Nyatanya, Kementerian Komunikasi dan Informasi (Kominfo) telah menyatakan bahwa video ini adalah hoax. Video aslinya adalah pidato Presiden Joko Widodo yang diunggah di akun YouTube The U.S. - Indonesia Society (USINDO) pada tanggal 13 November 2015. Namun, menggunakan teknologi deepfake, video tersebut disunting sehingga Presiden Joko Widodo tampak seperti berpidato dalam Bahasa Mandarin.
Apa Hubungannya dengan Anonimitas Sosial Media?
Sosial media menyediakan satu tameng yang biasanya tidak dimiliki orang saat berinteraksi: anonimitas.
Meskipun akun sosial media masih terikat dengan beberapa metode identifikasi seperti email dan nomor telepon, pengguna masih memiliki kuasa untuk menentukan jenis identifikasi yang ingin ia sebarkan. Pun, identifikasi yang diberikan pengguna tidak dijamin benar, berbeda dengan berinteraksi di dunia nyata yang mau tidak mau harus menunjukkan muka, suara, atau nama.
