Sebagai sebuat mesin dan teknologi, tidak menutup kemungkinan chatbot ini masih berpeluang atau berpotensi menyajikan informasi yang salah sebagai fakta. Kelemahan chatbot juga ditemukan bahwa ia tidak memiliki pemahaman akan konteks yang real dan "utuh" sesuai kondisi di lapangan. Plus keterbatasan dalam keterampilan berpikir kritis, dan kemampuan membuat keputusan berdasarkan etika. Lebih jauh, inilah beberapa temuan dari kelemahan chatbot ini :
1. Ketidakmampuan untuk memahami kontekstual dari pertanyaan yang diajukan, sehingga dapat menjawab dengan tidak tepat atau tidak relevan.
2. Biasanya tidak dapat memberikan jawaban yang spesifik dan rinci terhadap pertanyaan yang diajukan.
3. Rentan terhadap bias data, jika model dilatih dengan data yang tidak seimbang atau tidak representatif dari dunia nyata.
4. Tidak dapat menangani pertanyaan yang tidak pernah diajukan sebelumnya, sehingga dapat menjawab dengan tidak tepat atau tidak relevan.
5. Membutuhkan komputasi yang besar dan waktu yang lama untuk melatih model tersebut, sehingga tidak dapat digunakan secara real-time.
Sejumlah Kekhawatiran Ini Perlu Diberi Atensi
Dari 2 kali saya melakukan penelusuran, terbesit juga sebuah kekhawatiran dalam aplikasinya di dunia pendidikan. Khususnya bagi siswa, mahasiswa, peserta didik yang diberi tugas online seperti peserta Career Development Program (CDP) dan Management Trainee (MT) di perusahaan.
Teknologi chatbot ini saya khawatirkan akan meningkatkan ketidakjujuran dalam kegiatan akademik, dan menumbuhkan kebiasaan menyontek pada peserta didik. Lebih jauh, bisa juga berpengaruh buruk terhadap kemampuan belajar siswa. Apalagi dari jawaban yang saya uji itu masih ada potensi kontennya tidak aman dan akurat sehingga bisa menciptakan "kesan kehebatan", tapi salah atau keliru. Semisal, hal yang ditanyakan berulang dengan kata kunci yang berbeda, direspon dengan menempatkan jawaban yang esensinya sama sebagai poin yang berbeda.
Beberapa pengamat juga mengkhawatirkan, teknologi ini bisa berdampak orang malas berpikir dan tak mampu melatih kita berpikir kritis dan memecahkan masalah. Padahal dua keterampilan ini sangat penting untuk mencapai kesuksesan. Dengan kata lain, teknologi ini akan mengikis kreativitas manusia karena wawasan ChatGPT yang sangat terbatas. Karena itu pula, tidak seharusnya alat ini digunakan untuk mengerjakan hal-hal penting yang membutuhkan akurasi tinggi, realistis sesuai kondisi sekarang, dan sesuai konteks kekinian.
Tidaklah mengherankan, seperti yang dilansir dari vice.com, Dinas Pendidikan Kota New York menjadi salah satu yang pertama memblokir akses ChatGPT. Alasan mereka, chatbot milik OpenAI itu rentan disalahgunakan peserta didik.
