Secara sederhana algoritma adalah sebuah rumus untuk memproses informasi atau menampilkan sebuah tindakan sesuai instruksi seperti mengurutkan nama-nama sesuai alphabet atau menunjukkan resep sop buntut yang lezat. Tentu saja algoritma yang digunakan perusahaan bisnis teknologi berbasis data akan jauh lebih rumit. Tujuan dasarnya adalah membuat pekerjaan jadi lebih mudah dan seakurat mungkin. Namun bagaimana kalau yang terjadi justru sebaliknya ?
Tahun 2015 Facebook pernah dipermalukan saat sistemnya menolak pendaftaran akun yang dilakukan oleh warga pribumi Amerika karena perangkat lunaknya 'berfikir' Â bahwa nama-nama mereka, Lance Browneyes (secara harafiah diartikan Lance Mata Coklat, -pen.) dan Dana Lone Hill, adalah palsu padahal penamaan khas suku Indian memang kerap diambil dari berbagai hal di habitat mereka (Washington Post, Â 8 September 2019).
Di tahun yang sama Amazon juga ketanggor masalah ketika sistem kecerdasan buatan yang digunakan untuk memindai berkas lamaran kerja, ternyata 'berinisiatif' menyingkirkan semua pelamar perempuan gara-gara menemukan kata kunci tertentu di resume mereka.
Lantas darimana algoritma memperoleh data ?
Setiap kali anda membuka aplikasi, belanja online, atau menyaksikan iklan di ponsel; ada jejak informasi seputar aktifitas dan minat anda yang kemudian disimpan oleh algoritma. Semua data akan dikumpulkan oleh berbagai perusahaan di seluruh dunia, semakin sering menggunakan situs dan medsos akan semakin dalam pula pengetahuan Google, Facebook, dan perusahaan internet lainnya tentang seluk-beluk anda. Setelah dipadukan dengan data yang dikumpulkan dengan cara konvensional --lewat angket, pengisian form kartu kredit/langganan koran/pembuatan SIM, dan lainnya-, maka perusahaan akan punya profil lengkap setiap orang yang siap untuk dijual.
Data murni itu sendiri bersifat netral, masalah terletak pada cara menggunakan dan menginterpretasikannya terutama bila algoritma mengkarakterisasi seseorang melalu data korelasi atau proxy. Hukum di AS, misalnya, melarang keputusan merekrut pegawai atau memberikan pinjaman didasarkan pada pertimbangan ras, jenis kelamin, usia, atau orientasi seksual tertentu; namun ada proxy yang menyediakan data-data terlarang itu dalam sebuah perangkat besar yang nantinya secara otomatis terhubung pada pembuat keputusan dan bisa mempengaruhinya.
Lagu yang didengarkan via YouTube, film yang ditonton via HOOQ/Viu, ... semua bisa manjadi bahan bagi algoritma untuk kian melengkapi data profil para pengguna aplikasi. Sebuah studi yang dipublikasikan tahun 2017 menemukan bahwa Facebook bisa mengklasifikasikan para penggunanya sebagai gay berdasarkan pada status-status yang mereka jempoli, meski yang bersangkutan tak pernah secara terbuka menyatakan itu. Atau karena memang mereka bukan gay.
Pada pelayanan bursa kerja online, para peneliti mendokumentasikan bahwa hanya ada sedikit posisi dengan bayaran tinggi yang ditawarkan pada kaum perempuan dan ras kulit berwarna karena kedua kelompok pencari kerja tersebut tidak cocok dengan profil tipikal mereka yang menduduki posisi tersebut, yang kebanyakan laki-laki berkulit putih. Sistem itu menggunakan teknik 'model deskriptif' yang membuat inferensi dari pola-pola historik dari data tersedia. Teknik itu akan jadi sia-sia bila digunakan secara keliru atau tidak merepresentasikan secara akurat komunitas dalam pertanyaan-pertanyaan yang diajukannya.
