Mendengar istilah AI (Artificial Intelligence), banyak orang merasa optimis. Masa depan teknologi dengan AI akan dapat membantu lebih banyak aspek kehidupan manusia. Dari demam GPT, Midjourney, sampai Photoshop Generative Fill hanya bagian kecil dari AI. Sedang potensinya lebih banyak dari AI yang cukup populer.
AI menjadi teknologi yang dapat melakukan berbagai (bahkan menggantikan) tugas manusia. AI telah banyak dilatih untuk mengenali pola, mengambil keputusan, dan belajar dari Big Data. AI tentu memiliki banyak manfaat bagi kehidupan manusia, seperti membantu menyelesaikan masalah pendidikan, kesehatan, lingkungan, dan ekonomi.Â
Walau secara etis, kini banyak negara tengah mengatur batasan dan penggunaan AI. Perdebatan antara negara, akademisi, teknokrat, dan korporasi terkait etika AI cukup sengit. Karena selain aspek-aspek di atas, AI juga berpotensi berbahaya bagi demokrasi sebuah negara antara lain:
Ketimpangan data. Akses masyarakat pada data dan penggunaannya oleh AI masih timpang. Beberapa kelompok masyarakat akhirnya tidak memiliki akses terkait data seperti pengumpulan, pengolahan, maupun pemanfaatan. Diskriminasi, marginalisasi, dan ketidakadilan terjadi bagi mereka yang minim akses ke AI dan manfaatnya.
Pengawasan massal (mass surveillance). AI yang lebih berkembang, bisa digunakan untuk mengumpulkan, menganalisis, dan menyimpan data pribadi tanpa izin. Data ini pun digunakan untuk mengontrol, memantau, atau mengintervensi perilaku masyarakat atas nama stabilitas dan narasi anti-teror.
Kehilangan otonomi. Saat AI mengambil alih peran manusia, hal ini dapat mengurangi keterlibatan, partisipasi, dan tanggung jawab masyarakat dalam proses demokrasi. Digdaya AI yang tanpa kontrol juga mungkin mengancam hak asasi manusia, seperti hak atas privasi, kebebasan berekspresi, atau hak untuk menentukan nasib sendiri.
Manipulasi informasi. ChatGPT bisa digunakan untuk menghasilkan atau menyebarkan narasi palsu, menyesatkan, atau tidak akurat. Untuk kemudian digunakan dalam propaganda dengan konten deepfake. Konten AI macam ini mudah mempengaruhi opini publik, mempolarisasi, dan mendisrupsi Pemilu atau pembuatan kebijakan.
Karena Pemilu menjadi helatan penting demokrasi, AI pun dapat menimbulkan ancaman. Bagi para penyelenggaraan Pemilu 2024 di Indonesia, AI bisa memproduksi disinformasi dan kampanye hitam. Walaupun ada manusia dibalik kampanye berbasis AI ini, tapi dampak dan distribusinya akan lebih  berbahaya dan luas.
Disinformasi merupakan informasi menyesatkan yang sengaja disebarkan. Sedang kampanye hitam berbentuk kampanye negatif yang bertujuan untuk merusak citra atau reputasi tanpa etika atau aturan. Kedua hal ini dapat mempengaruhi opini publik dan perilaku pemilih dalam Pemilu 2024.
Bayangkan jika AI digunakan untuk membuat dan menyebarkan hal negatif di atas. Diproduksi dan disebarkannya pun dengan cara yang lebih canggih, cepat, dan murah daripada metode konvensional. Sehingga, bisa diprediksi beberapa contoh ancaman AI dalam Pemilu 2024 nanti, jikapun terjadi.
Deepfake. Deepfake adalah teknik AI untuk menghasilkan gambar, video, atau audio palsu yang sangat realistis. Dengan beberapa langkah seseorang bisa mengganti wajah, suara, atau gerak tubuh seseorang dengan orang lain.Â
Di lapangan, deepfake bisa digunakan untuk membuat konten-konten yang menipu, memfitnah, atau menghasut pemilih. Konten deepfake ini akan menampilkan kandidat atau tokoh politik melakukan atau mengatakan hal-hal kontroversial. Misalnya, video deepfake Capres yang berpidato rasis, provokatif, atau menyinggung SARA.
Chatbot. Chatbot sebagai inovasi AI untuk berkomunikasi melalui teks atau suara yang natural. GhatGPT dan Bard mungkin dua contoh chatbot yang cukup populer dan memberikan banyak kegunaan saat ini.
Chatbot bisa digunakan membuat konten hoaks atau disinformasi. Misalnya, chatbot akan mengirim info viral palsu kepada pemilih. Kontennya akan diklaim dari kandidat, tim sukses, atau lembaga survei. Narasinya jelas memberikan informasi salah atau menyesatkan tentang parpol, peserta, dan penyelenggara Pemilu.
Generative adversarial network (GAN). GAN sebagai inovasi AI yang menghasilkan gambar, teks, atau data baru yang mirip dengan data asli. Midjourney menjadi contoh yang cukup populer dan dianggap lebih canggih dari fotografer dan editor.
Saat Pemilu, GAN bisa digunakan untuk membuat konten palsu yang sulit dibedakan dari konten asli. Misalnya, gambar sintetis yang meniru laporan media lokal. Narasinya keliru mengklaim seorang kandidat mundur dari pencalonan. Teks sintetis pun akan meniru gaya bahasa peserta Pemilu dengan hoaks untuk memanipulasi opini publik.
Sehingga potensi ancaman AI di atas mungkin merusak integritas dan kredibilitas Pemilu 2024 di Indonesia. Oleh karena itu, perlu adanya upaya untuk mencegah dan menangkal penggunaan AI. Dalam hal ini bertujuan negatif untuk Pemilu 2024. Beberapa upaya yang dapat dilakukan adalah:
- Meningkatkan literasi digital dan kritis masyarakat agar dapat membedakan antara informasi benar dan salah, serta tidak mudah terpengaruh oleh konten-konten palsu.
- Mendorong partisipasi aktif masyarakat dalam melaporkan dan mengecek fakta terkait konten-konten politik yang tersebar di media sosial atau internet.
- Menguatkan peran dan kapasitas lembaga penegak hukum, Kepolisian, penyelenggara dan pemantau Pemilu dalam mengawasi dan menindak produsen hoaks dan fitnah berbasis AI.
- Membangun kerjasama antara pemerintah, akademisi, media, organisasi masyarakat sipil, dan sektor swasta dalam mengembangkan dan menerapkan standar etika dan regulasi terkait penggunaan AI dalam konteks politik.
AI memang inovasi teknologi yang berpotensi besar untuk membantu proses demokrasi. Namun di sisi lain AI juga memiliki risiko besar untuk merusak proses demokrasi, apalagi di saat Pemilu. Menjadi waspada, bijak, dan bertanggung jawab dalam menggunakan dan menghadapi AI dalam Pemilu 2024 di Indonesia menjadi prioritas.
Secara fundamental, AI dalam demokrasi sebuah negara harus diatur dengan baik dan transparan oleh semua pihak. Tujuannya adalah untuk memastikan bahwa AI digunakan untuk meningkatkan kesejahteraan masyarakat dan menjaga nilai-nilai demokrasi, seperti keadilan, kesetaraan, partisipasi, dan akuntabilitas dalam Pemilu.
Salam,
Wonogiri, 31 Mei 2024
11:35 pm
Baca konten-konten menarik Kompasiana langsung dari smartphone kamu. Follow channel WhatsApp Kompasiana sekarang di sini: https://whatsapp.com/channel/0029VaYjYaL4Spk7WflFYJ2H
