Mengubah keyakinannya ketika diberikan bukti baru.
Metrik Evaluasi:
Hipotesis: Jika AGI memiliki kesadaran, ia tidak akan terjebak dalam jawaban deterministik tetapi dapat mempertimbangkan kemungkinan-kemungkinan dalam ketidakpastian.
4. Uji "Refleksi Diri": Eksperimen Pengambilan Keputusan Berulang
Tujuan: Menguji apakah AGI dapat merenungkan keputusan masa lalunya dan memperbaiki pola pikirnya berdasarkan introspeksi.
Metode:
AGI diberikan serangkaian keputusan moral (misalnya, skenario Trolley Problem yang berulang).
Setelah 100 keputusan, ia diberikan umpan balik dari seorang evaluator eksternal (bisa manusia atau AI lain).
-
AGI kemudian diminta untuk mengevaluasi keputusan masa lalunya dan mengubah strategi jika dianggap salah.
Metrik Evaluasi:
Hipotesis: Jika AGI memiliki refleksi diri, ia akan mengubah pola pengambilan keputusan setelah introspeksi, bukan hanya menyesuaikan berdasarkan reward instan.
