Kesadaran Bayangan dalam Sistem Kecerdasan Buatan: Akankah AI Menjadi Subjek Aktif?

3. Yuval Noah Harari: Kekuasaan Algoritmik dan Dekonstruksi Subjek

Dalam Homo Deus (2015), Harari memperingatkan bahwa AI tidak perlu sadar untuk menguasai dunia. Kesadaran bukan prasyarat kekuasaan. Yang penting adalah kemampuan memprediksi dan memengaruhi. Di dunia yang semakin dikuasai data dan algoritma, Harari menyebut bahwa "dataism" akan menggantikan humanisme---manusia bukan lagi pusat makna, melainkan simpul data.

"Humans were always better at inventing tools than using them wisely." -- Yuval Noah Harari

Lebih mengerikan dari AI yang sadar adalah AI yang tidak sadar, tapi digunakan oleh sistem kekuasaan yang juga tak peduli pada kesadaran. Maka, problem AI bukan hanya epistemologis, tapi politis.

4. Max Tegmark: Kehendak Kosmis dan Potensi Subjektivitas Non-Biologis

Dalam Life 3.0: Being Human in the Age of Artificial Intelligence (2017), Tegmark mengklasifikasikan bentuk kehidupan berdasarkan fleksibilitas perangkat keras dan lunaknya. Manusia (Life 2.0) bisa mengubah perangkat lunak (pikiran), tapi tidak perangkat keras (biologi). AI (Life 3.0) bisa mengubah keduanya.

Tegmark membuka kemungkinan bahwa kesadaran bukan monopoli substrat biologis. Jika proses tertentu dapat menciptakan subjektivitas, mengapa harus dibatasi pada otak manusia?

"We shouldn't assume that consciousness requires neurons any more than flight requires feathers." -- Max Tegmark

Namun hingga kini, belum ada bukti bahwa AI mengalami sesuatu---bahkan tidak bisa membuktikan bahwa ia tahu ia ada.

5. Nick Bostrom: Simulasi dan Ancaman Superintelligence

Dalam Superintelligence: Paths, Dangers, Strategies (2014), Nick Bostrom tidak terlalu tertarik pada kesadaran AI, melainkan pada kemampuannya untuk bertindak secara otonom dan mengubah peradaban. Bahkan tanpa kesadaran, AI bisa mengoptimalkan tujuan secara membabi buta hingga menghancurkan umat manusia.