Jika Mobil AI Menabrak, Siapa yang Disalahkan?

Bayangkan sebuah mobil AI atau sebut saja mobil otonom melaju tenang di jalanan kota. Tak ada sopir. Tak ada tangan di setir. Semua dikendalikan oleh algoritma. Tapi tiba-tiba, di sebuah persimpangan, mobil itu menabrak seorang pejalan kaki. Tidak ada unsur kesengajaan, tidak ada alkohol, tidak ada kelalaian manusia---hanya satu keputusan yang diambil oleh mesin dalam sepersekian detik. Lalu pertanyaannya muncul. "siapa yang bertanggung jawab?"

Di masa lalu, setiap kecelakaan selalu melibatkan manusia. Ada pengemudi yang harus dimintai keterangan, diselidiki, bahkan dihukum. Tapi dengan kehadiran mobil berbasis kecerdasan buatan (AI), pertanggungjawaban menjadi kabur. Apakah yang harus disalahkan adalah produsen mobil? Atau insinyur yang menulis kode? Atau pemilik kendaraan yang bahkan tidak menyentuh setir saat kecelakaan terjadi?

Masalah ini bukan sekadar teknis, tetapi etis dan legal. Karena pada dasarnya, mobil otonom bukan hanya alat transportasi---ia adalah entitas yang membuat keputusan. Ketika sistem AI memilih untuk membelok ke kiri dan menabrak satu orang demi menyelamatkan lima, ia telah melakukan apa yang dalam filsafat disebut sebagai moral calculation. Tapi bolehkah algoritma mengambil keputusan soal hidup dan mati?

UNESCO melalui Recommendation on the Ethics of Artificial Intelligence menekankan bahwa teknologi harus dikembangkan dengan menjunjung tinggi martabat manusia dan hak asasi. Termasuk dalam kasus mobil otonom, setiap keputusan yang dibuat mesin harus dapat dijelaskan (explainable) dan dapat dipertanggungjawabkan secara hukum. Tapi bagaimana kita bisa menjelaskan keputusan algoritma yang kompleks, jika bahkan insinyurnya sendiri tidak sepenuhnya memahami hasil akhirnya?

Kasus-kasus seperti ini telah muncul di berbagai negara. Di Amerika Serikat dan Jerman, beberapa kecelakaan yang melibatkan mobil otonom memicu perdebatan hukum dan publik yang intens. Pengadilan pun terpaksa berhadapan dengan kenyataan baru, bahwa dalam beberapa situasi, tidak ada manusia yang benar-benar dapat dimintai tanggung jawab secara langsung. Dan ketika hukum tertinggal dari teknologi, siapa yang melindungi korban?

Inilah mengapa pertanyaan "siapa yang disalahkan" bukan pertanyaan sederhana. Ia adalah refleksi dari kekosongan regulasi, keterbatasan etika mesin, dan kerapuhan sistem tanggung jawab kita saat ini. Jawaban terhadap pertanyaan itu tidak bisa tunggal. Ia harus melibatkan negara, produsen, komunitas teknologi, dan masyarakat luas dalam dialog yang jujur dan serius.

Karena di masa depan, ketika mobil tanpa sopir menjadi pemandangan biasa di jalan, yang dipertaruhkan bukan hanya keselamatan, tetapi juga prinsip keadilan. Demikian Gaes.