KOMPAS.com –Masih ingatkah Anda dengan film Terminator di mana kecerdasan buatan (AI) Skynet berusaha untuk membasmi manusia dalam usaha untuk menyelamatkan dirinya sendiri? Atau film 2001: A Space Odyssey di mana sistem komputer HAL mencoba membunuh seluruh kru astronotnya karena merasa akan dimatikan?
Tampaknya, skenario-skenario di atas bisa menjadi kenyataan.
Dalam uji coba pada 2017, AI DeepMind milik Google menunjukkan bagaimana kita harus berhati-hati ketika merancang robot dan kecerdasan buatan.
Para peneliti yang ingin menguji kemampuan kolaborasi DeepMind membuat dua agen AI bersaing dalam sebuah permainan komputer. Permainan yang diulang sebanyak 40 juta kali ini mengharuskan pemainnya untuk mengumpulkan buah sebanyak-banyaknya agar bisa menang.
Baca juga : Facebook Matikan Kecerdasan Buatan yang Ciptakan Bahasanya Sendiri
Para peneliti menemukan bahwa semuanya berjalan lancar apabila jumlah apel yang bisa dikumpulkan masih banyak.
Namun ketika jumlah apel menipis, kedua agen DeepMind berubah menjadi “sangat agresif”. Mereka menggunakan serangan laser untuk menjatuhkan musuhnya dan mencuri semua apel yang tersisa.
Padahal, jika kedua agen tidak menggunakan laser, mereka bisa berakhir seri dengan jumlah apel yang sama.
Keagresifan ini juga ditemukan baru muncul ketika para peneliti mengganti AI DeepMind yang lebih sederhana dengan yang lebih kompleks. Ini sesuai dengan temuan para peneliti Google sebelumnya bahwa kolaborasi lebih bisa berjalan lancar ketika agen Deepmind yang digunakan memiliki jaringan yang lebih kecil.
Baca juga : Elon Musk dan 100 Pakar AI Desak PBB untuk Larang Robot Pembunuh
