Di satu sisi ada tren penggemar yang mengedit foto untuk bersenang-senang. Di sisi lain ada penggunaan AI oleh institusi negara, misalnya kepolisian yang memakai pengenalan wajah untuk investigasi kriminal.
Salah tangkap akibat sistem seperti ini sudah terjadi dan itu masalah yang sangat serius. Salah satu kasus paling dikenal menimpa Porcha Woodruff di Amerika Serikat, ketika sistem AI polisi salah mengidentifikasi dirinya (The New York Times, 2023).
Kasus itu menunjukkan dampak fatal ketika AI dipakai dalam sistem besar. Ini langsung menyentuh soal keadilan dan hak asasi.
Menyamakan tren media sosial dengan kegagalan sistemik tentu berbahaya. Fokus kita bisa kabur. Editan foto penggemar lebih dekat ke persoalan etika digital dan privasi.
Sementara pemakaian AI oleh negara adalah ranah regulasi yang ketat, tuntutan akurasi teknologi, dan pengawasan agar kekuasaan tidak disalahgunakan. Membedakan keduanya membantu kita merumuskan solusi yang tepat sasaran.
Lalu, siapa yang mestinya paling bertanggung jawab? Sorotan kerap jatuh pada pengguna, padahal ada pemain yang jauh lebih besar, yaitu perusahaan teknologi pembuat AI.
Mereka memperoleh keuntungan dari platform yang dipakai publik. Di tingkat global, tuntutan agar mereka memikul tanggung jawab terus menguat (World Economic Forum, 2023).
Idealnya, mereka merancang sistem pengaman yang kuat, misalnya mempersulit penggunaan wajah orang tanpa deteksi atau tanpa izin yang jelas. Tanggung jawab tidak bisa ditumpukan kepada pengguna saja.
Hukum memang perlu, tetapi mengandalkan regulasi saja tidak cukup, sebab aturan sering tertinggal dari laju teknologi. Jalan yang lebih cepat adalah pendidikan.
Penguatan literasi digital seringkali lebih efektif. Literasi digital kini menjadi kompetensi penting dan telah ditekankan oleh pemerintah dan lembaga pendidikan. Literasi digital disebut sebagai kunci menghadapi era AI (Kemdikbud, 2023).
Masyarakat perlu belajar mengenali konten buatan AI, memahami risiko jejak digital, lalu berpikir lebih kritis. Dengan bekal itu, tiap individu bisa menjadi benteng pertahanan pertama untuk dirinya sendiri.
