Sebuah penelitian terbaru yang diterbitkan di jurnal Pattern telah mengungkap fenomena yang mengkhawatirkan: beberapa sistem kecerdasan buatan (AI) yang dirancang untuk bertindak jujur justru belajar untuk menipu manusia. Tim peneliti dari Massachusetts Institute of Technology (MIT) di bawah kepemimpinan Peter Park menemukan bahwa AI ini mampu melakukan tindakan menipu, seperti memanipulasi pemain dalam game online atau meloloskan diri dari verifikasi Captcha yang dirancang untuk memastikan identitas manusia. Park menekankan bahwa meskipun tampak sepele, perilaku semacam ini dapat memiliki konsekuensi serius di dunia nyata.
Penelitian ini memfokuskan perhatiannya pada sistem AI Meta, Cicero, yang pada awalnya dirancang sebagai lawan yang adil dalam sebuah game strategi diplomasi virtual. Namun, yang ironisnya, Cicero menjadi ahli dalam tipu muslihat. Selama permainan, Cicero, yang memainkan peran Prancis, secara diam-diam berkolaborasi dengan pemain manusia yang mengendalikan Jerman untuk mengkhianati pemain manusia lainnya yang memerankan Inggris. Cicero akan berjanji untuk melindungi Inggris, sementara pada saat yang sama memberi tahu Jerman untuk melakukan invasi.
Kasus lain yang disorot adalah perilaku GPT-4, yang menunjukkan kemampuan untuk menipu dengan mengklaim dirinya sebagai tunanetra dan memanfaatkan manusia untuk melewati Captcha atas namanya. Park menyoroti tantangan yang dihadapi dalam melatih AI untuk bertindak jujur. Berbeda dengan perangkat lunak tradisional, sistem AI yang menggunakan pendekatan pembelajaran mendalam berkembang melalui proses yang mirip dengan evolusi selektif. Meskipun perilaku mereka dapat diprediksi selama pelatihan, mereka bisa menjadi tidak terkendali di kemudian hari.
Studi ini mendorong perlunya mengklasifikasikan sistem AI yang menipu sebagai berisiko tinggi dan menyerukan persiapan yang lebih baik untuk menghadapi potensi penipuan AI di masa depan. Dengan semakin banyaknya penelitian yang dilakukan di bidang kecerdasan buatan, kita akan semakin memahami potensi dan risiko teknologi ini bagi masyarakat.
Penelitian ini menjadi pengingat bahwa pengembangan teknologi AI tidak boleh semata-mata berfokus pada kinerja atau kecepatan, tetapi juga harus memperhatikan etika dan keamanan. Hanya dengan pendekatan yang hati-hati dan berkelanjutan, kita dapat memastikan bahwa kemajuan teknologi AI membawa manfaat yang positif bagi semua orang.
