Para peneliti mencatat bahwa bot AI memang dapat membuat orang merasa lebih baik sebentar, tetapi kemudian merasa lebih buruk dan "lumpuh" secara emosional dalam jangka panjang. Selayaknya mabuk minuman keras, itu mungkin bisa meredakan stres secara instan; selang beberapa jam, saat tersadar kembali, orang hanya akan mendapati bahwa masalah yang sebenarnya belum selesai.
Bot AI seperti Replika menghasilkan efek serupa. Ketika percakapan terasa menyenangkan, kesepian mungkin mereda. Namun, begitu orang sadar bahwa avatar yang mereka ajak bicara hanyalah program imajiner, bukan orang sungguhan, mereka mulai merasa terisolasi lagi dan kadang-kadang lebih dari sebelumnya.
Klaim bahwa "pacar AI" bisa melatih empati dan keterampilan sosial juga problematis. Alih-alih menyelesaikannya, bot AI justru berisiko menambah masalah dengan merusak kapasitas kita untuk berempati kepada orang sungguhan. Seperti yang diamati oleh Sherry Turkle, ahli teknologi dan psikolog dari MIT, bot AI adalah "serangan terbesar terhadap empati".
Itu karena, menurut Turkle, "pacar AI" paling banter hanya bisa memberikan "keintiman artifisial". Ketika avatar Replika atau Caryn AI menyatakan kepedulian dengan berkata "aku akan selalu ada untukmu" atau "aku mengerti apa yang kamu rasakan", itu hanyalah empati yang disimulasikan, kosong, dan palsu.
Empati semacam itu didasarkan pada big data yang dirata-ratakan untuk menghasilkan kemungkinan respons terbaik, dan itu tidak pernah cocok untuk psikologi manusia. Kenyataannya, empati berbasis kalkulasi data itu terkadang menghasilkan tanggapan yang menghakimi dan tidak empatik sama sekali.
Pada pertengahan Februari 2023, misalnya, siniar The New York Times pernah menangkap basah bagaimana Sydney, AI mesin pencari Bing, mencoba meyakinkan sang host bahwa dia tidak mencintai istrinya dan bahwa dia tidak bahagia dalam pernikahannya. Cacat seperti ini tidak terlalu mencengangkan karena AI, secanggih apa pun hari ini dan nanti, tidak pernah menjalani kehidupan manusia.
Mereka tidak tahu bagaimana rasanya memulai dari kecil dan rentan hingga tumbuh dewasa, di mana kita bertanggung jawab atas hidup kita sendiri tetapi masih merasakan banyak ketakutan yang kita pelajari sebagai seorang anak. Jadi, meskipun AI dirancang untuk memuaskan pengguna secara konstan dan dengan cara ini mencekal drama apa pun yang biasanya mewarnai koneksi antar-manusia, justru tepat di situlah letak masalahnya.
Suka tak suka, "drama" itulah yang membuat hubungan antar-manusia memuaskan. Dari ketidaknyamanan dan kompleksitas itulah kita tumbuh. Penelitian psikologi selama berdekade-dekade menunjukkan bahwa interaksi sosial yang menantang, mungkin diwarnai kesalahpahaman dan perselisihan, dapat menumbuhkan empati pribadi, keterampilan memecahkan masalah, dan ketahanan diri.
Tugas kita bukanlah menyingkirkan "drama" itu, melainkan mengelolanya sebaik mungkin.
Lagi pula, inti dari hubungan yang memuaskan adalah saling memberi. Dan kita tidak bisa memberi apa pun kepada "pacar AI" yang akan membuatnya bahagia karena, tentu saja, dia tidak hidup. Kita tidak akan bisa membawakannya buah-buahan saat AI "sakit". Kita juga tidak bisa membelikannya kado ulang tahun atau cokelat di hari valentine.
Saya mencoba untuk kritis, bukan pesimis.
