Oleh: Naysilla Zelliyana
"Kalau semua terasa cocok dan nyaman di beranda media sosialmu, bisa jadi kamu sedang tidak benar-benar memilih tapi dipilihkan."
Setiap hari kita mengakses media sosial tanpa rasa curiga. Konten yang muncul terlihat seolah "cocok" dengan selera, baik itu video lucu, isu politik yang sejalan dengan pendapat pribadi, atau barang yang tiba-tiba muncul setelah kita mendiskusikannya. Kita menyebutnya "relevan", walaupun sebenarnya ini merupakan bentuk personalisasi algoritma yang didasarkan pada AI. Tetapi apakah kita pernah mempertanyakan: apakah ini sesungguhnya kebebasan, atau malah suatu bentuk baru penjajahan digital yang membahayakan hak asasi manusia?
Dari Nyaman Menjadi Manipulatif
Teknologi kecerdasan buatan dibuat untuk "mengerti" kita. Algoritma menganalisis jejak digital: apa yang kita klik, tonton, suka, dan bahkan lama kita berhenti menggulir. Segala sesuatunya diproses agar media sosial dapat menyajikan konten yang "kita harapkan". Namun di sinilah letak risikonya karena ternyata, apa yang kita lihat tidak sepenuhnya merupakan pilihan kita.
Laporan Amnesty International 2023 menyebutkan bahwa algoritma pada platform digital secara aktif mendistribusikan konten yang meningkatkan keterlibatan, sering kali berbentuk disinformasi, polarisasi politik, atau ujaran kebencian karena jenis konten tersebut membuat pengguna tetap berlama-lama di platform. Dalam pelaksanaannya, ini melanggar hak untuk menerima informasi yang adil, seimbang, dan netral.
Buih Filter dan Demokrasi yang TertekanÂ
Saat kita hanya diberikan informasi yang sejalan dengan pemikiran kita, kita kehilangan sudut pandang yang berbeda. Ini menghasilkan "gelembung filter" gelembung informasi yang menjadikan dunia terlihat homogen dan sependapat dengan pandangan kita. Apa yang didapat? Diskusi umum semakin superficialis, kebencian antar komunitas meroket, dan masyarakat terfragmentasi.
Sebagai individu digital, kita secara bertahap mengalami kehilangan kebebasan berpikir kritis akibat algoritma menyajikan informasi yang memuaskan ego. Kita tidak lagi diuji untuk mempertanyakan, hanya dirangsang untuk menyetujui.Â
Diskriminasi Digital Itu Nyata
Algoritma bukan makhluk netral. Mereka dirancang oleh manusia dan membawa bias manusia itu ke dalam sistem. Lebih dari itu, pengguna dari komunitas rentan seperti LGBTQ+, kelompok etnis minoritas, atau masyarakat adat sering kali mengalami invisibilisasi dalam sistem algoritmik. Konten mereka tidak ditampilkan, dibatasi, atau bahkan diblokir secara sistematis. Ini adalah bentuk baru dari diskriminasi digital canggih, sunyi, namun sangat nyata.
