Dunia makin dipenuhi algoritma. Kadang kita lengah bahwa tidak setiap keputusan besar murni diambil oleh manusia.
Sebagian keputusan itu kini dilimpahkan pada sistem kecerdasan buatan. AI (Artificial Intelligence) bisa menilai, memprediksi, dan bahkan merekomendasikan siapa yang layak dapat pinjaman kredit, siapa yang cocok diterima kerja, atau siapa yang "mencurigakan" berdasarkan wajah dan gerak-gerik.
Teknologi ini kita sambut dengan decak kagum. Tapi begitu muncul kasus salah deteksi, bias rasial dalam sistem pengenalan wajah, atau algoritma rekrutmen yang ternyata diskriminatif, mendadak kita kelimpungan.
Lalu muncul pertanyaan yang terdengar sepele tapi sebenarnya sangat logis-filosofis: kalau AI bikin salah, siapa yang harus kita tegur?
Itu pertanyaan bukan sekadar teknis, tapi menyentuh inti dari tanggung jawab moral di era baru.
AI---meski disebut "pintar"---tetaplah benda mati. Ia tidak bisa menyesal, tidak punya nurani, tidak bisa dimintai maaf.
Justru karena itu, kita harus semakin jeli: siapa yang berdiri di balik layar?
Mari kita urai satu persatu.
Pertama, para pengembang. Mereka yang menulis kode, melatih model, dan mendesain sistem pengambilan keputusan.
Pengembang bukan dewa. Mereka bekerja di bawah tekanan bisnis, deadline, dan struktur organisasi perusahaan. Seringkali mereka hanya bagian kecil dari proses besar yang dikendalikan oleh logika pasar, bukan etika.
