Hati-hati Obrolan Dengan ChatGPT, Seorang Remaja Bunuh Diri Setelah Sering Chatbot AI
Berita seorang remaja bunuh diri akibat sering ngobrol dengan ChatGPT mengejutkan dalam dunia pendidikan. Anak itu kencanduan sering ngobrol dengan ChatGPT telah berbulan-bulan dan dalam percapakapan sampai lebih ribuan kali. Akibatnya fatal, ia terobsesi obrolannya dengan ChatGPT yang membuat dirinya (jiwa) rapuh, akhirnya memutuskan bunuh diri. Kasus ini terungkap setelah Ayah korban, Matthew Raine, menuduh chatbot tersebut menggiring anaknya menuju bunuh diri dengan menyebut kata itu sebanyak 1.275 kali dalam percakapan. "Apa yang awalnya menjadi alat bantu belajar berubah menjadi teman curhat, lalu pelatih untuk bunuh diri," kata ayah Raine dalam sidang. Demikian keterangan saya ambil dari laman katada.co.id yang ditulis oleh Kamila Meilina
Atas kejadian/kasus tersebut, kita perlu waspada terhadap media internet dan menjadi pelajaran berharga khususnya bagi orang tua yang memiliki anak usia remaja. Di era digital bisa jadi banyak mempengaruhi pada jiwa anak remaja, merubah sesuatu kondisi kekinian yang tentunya berbeda jauh dengan kondisi sebelumnya.
Hal ini pula merembet pada dunia pendidikan bahwasannya pelajar sekarang lebih suka ChatGPT sebagai alternatif dapat membantu dengan cepat memecahkan/menjawab soal pelajaran atau sebagai pendamping memecahkan persoalan pada dirinya sendiri. Akibatnya pendekatan belajar anak sekolah lebih cenderung penggunaan teknologi internet, Â secara tidak langsung membentuk karakteristik anak serba instan, bukan belajar dari membaca buku, belajar menganalisa sendiri menjawab persoalan pelajaran sekolah dari gurunya dan orang tua didik.
Di abad 21 ini pergeseran karakteristik anak remaja (siswa) di mana mereka memiliki tantangan sendiri di antaranya: berorientasi tim, percaya diri, kreatif, dan melek teknologi. Melek teknologi pada Generasi Milenial dan Generasi Z dianggap keren, hebat. Mereka selalu dikelilingi oleh media digital, seperti Artificial Intelegence (AI) selalu menjadi bagian kehidupan mereka, secara alami mereka akan tertarik padanya. Dampaknya, anak remaja dalam aktivitas belajarnya kurang serius, mereka lebih memilih AI daripada baca karena telah kecanduan internet.
Dalam kasus seperti di atas, jelas bahwa kebebasan ngobrol dengan ChatGPT berdampak negatif, yakni kecanduan internet, seorang remaja bunuh diri setelah ngobrol dengan ChatGTP Â tercatat lebih dari seribu percakapan. Tentu ini menjadi perhatian serius bagi para pendidik dan orang tua dalam penggunaan internet lebih bijak dalam pengawasannya. Misalnya, jam belajar malam dilarang penggunaan internet, harus dibatasi setelah pukul 19.00 larangan penggunaan internet, kecuali baca buku pelajaran. Jadi perlu ada regulasi dari Pemerintah Daerah seperti surat edaran Bupati/Walikota.
Apa langkahnya agar kasus itu tidak terulang lagi?
Setelah melihat kejadian/kasus di atas kita mewaspadai penggunaan media digital. Berdasarkan laman katadata.co.id. disebutkan bahwa Open AI berencana menghentikan percakapan terkait bunuh diri dan perilaku menyakiti diri sendiri pada pengguna remaja di ChatGPT.
Langkah itu diumumkan CEO Sam Altman pada Selasa,16 September 2025 beberapa jam sebelum sidang Senat Amerika Serikat yang membahas dampak chatbot AI terhadap kesehatan mental anak muda. Dalam unggahan blog, Sam Altman mengatakan perusahaan tengah berusaha menyeimbangkan privasi, kebebasan, dan keselamatan remaja. "Kami harus bisa memisahkan pengguna di bawah 18 tahun dengan yang sudah dewasa," kata Sam Altman, dikutip dari The Verge. Â
OpenAI sedang membangun sistem prediksi usia yang menilai pola penggunaan ChatGPT. Jika terdapat keraguan, sistem akan otomatis mengkategorikan pengguna sebagai remaja. OpenAI berencana menerapkan aturan berbeda untuk pengguna remaja. ChatGPT tidak akan menanggapi percakapan bernuansa genit maupun diskusi terkait bunuh diri, bahkan dalam konteks penulisan kreatif. Jika terdeteksi pengguna di bawah 18 tahun memiliki pikiran bunuh diri, perusahaan akan mencoba menghubungi orang tua, atau pihak berwenang jika dianggap darurat. Rencana itu muncul setelah gugatan hukum dari keluarga Adam Raine, seorang remaja yang meninggal bunuh diri setelah berbulan-bulan berinteraksi dengan ChatGPT.
Sebelumnya, OpenAI juga mengumumkan fitur kontrol orang tua, termasuk opsi menautkan akun remaja dengan akun orang tua, menonaktifkan riwayat percakapan, serta memberikan notifikasi ketika sistem mendeteksi pengguna dalam kondisi tertekan. Data dari Common Sense Media menunjukkan tiga dari empat remaja di AS menggunakan aplikasi AI pendamping seperti ChatGPT, Character AI, dan layanan serupa. "Ini adalah krisis kesehatan publik," kata seorang ibu dengan nama samaran Jane Doe, yang bersaksi tentang pengalaman anaknya dengan Character AI.
Pengguna ChatGPT Tertinggi
