Fitur Baru ChatGPT: Kontrol Orang Tua Lindungi Remaja dari Risiko Digital

OpenAI Hadirkan Kontrol Orang Tua untuk ChatGPT Remaja: Inovasi Keamanan dan Tantangan Privasi

OpenAI baru saja meluncurkan fitur terbaru berupa kontrol orang tua ChatGPT bagi pengguna remaja berusia 13 hingga 18 tahun. Fitur parental control ini dianggap sebagai langkah penting untuk memberikan perlindungan tambahan, terutama bagi remaja yang berisiko melakukan pencarian atau percakapan terkait ide bunuh diri dan self-harm. 

Selama ini, kekhawatiran terhadap dampak negatif AI semakin meningkat, khususnya setelah muncul beberapa kasus yang menuduh chatbot berperan dalam memengaruhi keputusan tragis anak muda. Dengan adanya fitur baru ini, orang tua bisa ikut terlibat dalam memantau interaksi anak mereka dengan ChatGPT, tanpa harus melanggar secara penuh privasi anak.

Baca juga: ChatGPT Tergeser, Inilah AI Pilihan Pengguna

Cara kerja sistem keamanan digital ini cukup menarik karena menggabungkan kecerdasan buatan dan campur tangan manusia. Ketika seorang remaja mengetikkan prompt yang berkaitan dengan bunuh diri atau self-harm, sistem moderasi otomatis akan menandainya dan mengirimkan ke tim moderator manusia untuk ditinjau. 

Jika dinilai berisiko tinggi, maka orang tua atau wali akan mendapatkan notifikasi. Pemberitahuan ini tidak menampilkan isi percakapan secara detail, melainkan hanya memberi tahu bahwa anak memasukkan prompt yang dianggap berbahaya. Dengan begitu, orang tua tetap mendapat peringatan penting tanpa harus mengetahui semua hal yang didiskusikan anaknya dengan ChatGPT. Hal ini memang bertujuan untuk menjaga keseimbangan antara keselamatan remaja dan privasi mereka.

Mengutip dari wired.com, sistem ini memiliki keterbatasan. Salah satunya adalah keterlambatan notifikasi. OpenAI menargetkan agar pemberitahuan bisa sampai hanya dalam beberapa jam setelah percakapan terdeteksi. Namun, tentu saja dalam situasi darurat, keterlambatan sekecil apa pun bisa berdampak besar. 

Selain itu, perusahaan juga mengakui bahwa guardrails atau pembatasan otomatis bisa saja dilewati apabila seseorang berusaha keras untuk mengakali sistem. Inilah tantangan besar bagi teknologi AI dan kesehatan mental, karena selalu ada celah bagi pengguna yang ingin mencari jalan keluar dari aturan yang ada.

Baca juga: Inilah Semua Fitur Baru Google I/O yang Bisa Anda Coba Sekarang Juga

Di sisi lain, fitur parental control ini bersifat opsional dan hanya bisa diaktifkan jika kedua belah pihak, baik orang tua maupun remaja, sepakat untuk menghubungkan akun mereka. Artinya, tidak ada pemaksaan dan tetap mengedepankan persetujuan bersama. Orang tua yang sudah terhubung dengan akun anak dapat mengakses beberapa pengaturan tambahan, misalnya membatasi penggunaan 

Baca juga: Penting Disimak: WhatsApp Luncurkan Fitur Baru ini

ChatGPT hanya pada jam tertentu, menonaktifkan mode suara atau generasi gambar, hingga mematikan fitur memori agar data percakapan tidak tersimpan. Bahkan tersedia pula opsi untuk mengecualikan data remaja dari pelatihan model, sehingga lebih aman dari segi perlindungan informasi pribadi.

Selain itu, orang tua juga bisa menyesuaikan batasan konten yang dianggap tidak pantas untuk remaja. Konten yang bisa dibatasi antara lain cerita roleplay ekstrem, tantangan viral yang berbahaya, konten romantis yang terlalu intens, hingga deskripsi kekerasan yang grafis. Dengan begitu, pengalaman ChatGPT remaja dapat lebih aman dan sesuai dengan perkembangan usia mereka. Walau begitu, perlu disadari bahwa pembatasan ini tidak sepenuhnya sempurna dan selalu ada kemungkinan konten tertentu lolos dari filter.

Dari sudut pandang positif, fitur baru ini memberi keuntungan besar. Orang tua bisa mendeteksi lebih dini tanda-tanda risiko pada anak mereka, dan dengan adanya notifikasi, ada peluang lebih besar untuk melakukan intervensi sebelum terlambat. 

Selain itu, langkah ini juga mendorong percakapan yang sehat antara orang tua dan anak, karena sinyal peringatan yang dikirimkan bisa menjadi pintu masuk untuk berdiskusi tentang perasaan dan masalah yang sedang dihadapi remaja. Fitur ini pun menegaskan posisi OpenAI sebagai perusahaan yang berusaha lebih bertanggung jawab terhadap keamanan digital remaja di tengah pertumbuhan teknologi Akal-akalan Imitasi.

Sebuah  kritik yang menyebutkan bahwa fitur ini masih menyisakan masalah. Privasi remaja tetap menjadi isu sensitif. Meski isi percakapan tidak dibocorkan, sebagian anak mungkin merasa tidak nyaman karena tahu orang tua bisa mendapat peringatan atas apa yang mereka tulis. 

Selain itu, sistem notifikasi yang tidak instan juga bisa mengurangi efektivitasnya, terutama dalam kondisi krisis yang membutuhkan tindakan cepat. Pertanyaan lain yang muncul adalah bagaimana fitur ini akan disesuaikan dengan regulasi di berbagai negara, mengingat perlindungan anak online dan privasi digital berbeda-beda di tiap wilayah.

Langkah OpenAI ini bisa menjadi standar baru bagi perusahaan teknologi lain yang mengembangkan produk AI untuk remaja. Kemungkinan besar, pendekatan serupa akan diikuti oleh kompetitor, baik untuk alasan etika maupun untuk mematuhi regulasi yang semakin ketat terkait perlindungan anak di dunia digital. Ke depan, yang perlu diperhatikan adalah kecepatan notifikasi, integrasi dengan hotline krisis lokal, serta transparansi mengenai bagaimana keputusan moderasi dibuat.

Meskipun belum sempurna, fitur ini dianggap sebagai langkah maju yang penting dalam menciptakan ruang digital yang lebih aman bagi generasi muda. Tantangan terbesar tetap ada pada keseimbangan antara keselamatan dan privasi, namun dengan kerja sama antara perusahaan teknologi, orang tua, dan remaja itu sendiri, masa depan interaksi dengan AI bisa menjadi lebih sehat, aman, dan bermanfaat. ***