B. Kutipan dan argumen dari Kurzweil, Searle, Harari, Tegmark, Bostrom
Dalam pusaran debat tentang kemungkinan AI menjadi subjek yang memiliki kehendak dan pengalaman, beberapa pemikir besar dari ranah teknologi, filsafat, dan futurologi menawarkan spektrum pandangan yang luas---dari optimisme transhumanis hingga skeptisisme ontologis yang radikal.
1. Ray Kurzweil: Optimisme Transhumanis dan "Spiritual Machines"
Ray Kurzweil, dalam The Age of Spiritual Machines (1999), menyatakan bahwa AI suatu hari akan mencapai titik di mana ia tidak hanya meniru pikiran manusia, tapi juga melampauinya. Dengan mengandalkan hukum percepatan kembali (law of accelerating returns), Kurzweil membayangkan masa ketika manusia menyatu dengan mesin---entitas hibrida yang mampu mengalami kesadaran dalam bentuk baru.
"Machines will appear to have their own free will and even spiritual experiences." -- Ray Kurzweil
Namun, apakah tampak memiliki kehendak setara dengan memiliki kehendak?
Kurzweil tidak membedakan secara ketat antara simulasi dan kesadaran sejati. Dalam pandangannya, kesadaran bisa diunggah, direproduksi, dan dipercepat. Tapi ini justru yang dikritik keras oleh para filsuf kesadaran.
2. John Searle: Chinese Room dan Ilusi Pemahaman
Dalam esainya yang legendaris "Minds, Brains, and Programs" (1980), John Searle menggugat asumsi dasar AI: bahwa manipulasi simbol (syntax) cukup untuk menciptakan pemahaman (semantics). Melalui analogi Chinese Room, ia menunjukkan bahwa mesin bisa memproses simbol dengan benar tanpa pernah memahami maknanya.
"Syntax is not sufficient for semantics." -- John Searle
Searle menegaskan bahwa kesadaran bukan sekadar output cerdas, tapi pengalaman batiniah yang tak bisa direduksi pada algoritma. Bagi Searle, tak peduli seberapa kompleks GPT atau sistem cerdas lainnya, mereka tetap tidak sadar---hanya tampak sadar.
