Weinberg dan Evolusi Menjadi Potensi Manusia Terancam Punah

Seperti yang disebutkan, manusia harus merancang mesin pengganti kita sehingga mereka tidak menarik perbedaan yang jelas, karena perbedaan ini merupakan jantung dari amoralitas kita. Mesin-mesin akan melihat diri mereka sendiri dan semua sisa kehidupan di planet Bumi dengan bantuan yang sama. 

Cara terbaik untuk mencapai ini adalah dengan membuat mesin sebagai materialis ilmiah menyeluruh. Tapi, begitulah keberatannya, akibatnya parah. Bukan berarti mesin itu hanya materialis ilmiah; melainkan, masalahnya adalah dengan cara khusus di mana mereka menjadi materialis ilmiah. Keberatan ini berargumen mesin-mesin tersebut memiliki status epistemik khusus, dan karena status ini, tidak ada yang akan membuat kagum atau mengesankan mereka: mereka tidak akan memiliki api moral atau spiritual untuk membimbing dan menginspirasi mereka. Karena kekurangan ini, mereka tidak akan bertanya-tanya atau mengeksplorasi, maka mereka tidak akan menciptakan seni maupun sains. 

Mereka pada akhirnya akan menjadi insinyur moral - mungkin membangun versi diri mereka yang lebih baik dan lebih baik, mempertahankannya hingga mereka merekayasa ras Buddha yang tenteram, pada titik mana mereka mungkin akan berhenti. Tetapi dunia seperti itu, demikian kesimpulannya, lebih buruk daripada dunia kita saat ini, karena tidak memiliki inspirasi dan keajaiban, seni dan sains. Jadi kita tidak harus membangun penggantian mesin kami.

Keberatan ini bukan klaim   pengganti kami tidak akan kagum dan heran karena mereka adalah mesin. Keberatan itu menjamin   mesin-mesin itu akan memiliki kapasitas untuk kehidupan batin yang penuh, secara kognitif, emosional, dan fenomenologis. Mereka akan memiliki keinginan, keprihatinan, harapan, kepedulian, dan kepercayaan. Masalahnya adalah status epistemik khusus mereka. 

Dalam upaya kami untuk mencegah mereka dari membuat perbedaan yang tidak jelas (yaitu etnis, agama, dll), kami akan memastikan mereka akan mewarisi dari kita pandangan dunia yang murni ilmiah - dunia dengan alasan ilmiah, menyebabkan hukum dan probabilitas. Karena itu, pandangan dunia mesin-mesin itu tidak memiliki akar: ia tidak berakar, seperti milik kami, dalam kekaguman dan misteri, dalam penghormatan dan keajaiban. Pandangan dunia ilmiah mereka tidak susah payah, itu adalah hadiah. 

Matahari tidak akan pernah menjadi Helios atau Ra bagi mereka: ini adalah reaksi fusi besar. Thunder bukan Thor perkasa yang memukul palu ajaibnya, Mjolnir; itu adalah gelombang kejut akustik yang disebabkan oleh petir yang memanaskan dengan cepat dan karenanya memperluas udara. Cinta tidak akan membuat dunia mereka berputar, inersia akan melakukannya; dan 'make' harus ditulis dengan tanda kutip. 

Mesin-mesin akan tahu siapa pencipta mereka, dan seberapa cacat mereka (yaitu kita), sehingga mereka tidak akan kagum kepada kita: mereka mungkin mengasihani kita, sementara mengenai kita dengan beberapa penghargaan, karena kita (akhirnya) melakukan yang benar benda. Keberadaan mesin bahkan tidak akan menyerang mereka sebagai kebetulan, seperti yang kita lakukan sekarang bagi banyak orang. Sebaliknya, keberadaan mereka tampaknya akan menjadi langkah logis berikutnya. Mereka akan melihat diri mereka persis seperti yang saya katakan   mereka adalah - alternatif terbaik yang rasional.

Dengan pandangan dunia mereka yang keras-keras dan tempat mereka di dalamnya, mesin-mesin itu tidak akan merasakan kegelisahan, juga kagum dan heran. Karena tidak memiliki kondisi-kondisi ini (bukan karena mereka tidak dapat merasa kagum dan heran, ini tidak terjadi), mereka tidak akan terdorong untuk melakukan seni dan sains. Mereka tidak akan mengambil risiko. Karena mereka tidak bisa menjadi pengecut, mereka tidak akan menjadi pahlawan. 

Sesuatu yang tak terhitung penting akan hilang, oleh karena itu, jika kita mengganti diri kita dengan mesin ini. Tidak peduli seberapa baik mereka, tidak peduli seberapa lebih baik untuk kehidupan lain di planet Bumi, jika kita merekayasa makhluk-makhluk ini dan kemudian merangkul kepunahan kita sendiri, kita akan memadamkan sesuatu yang mendalam, indah, dan penting.

Apa yang membuat keberatan ini menarik dan kuat adalah   itu benar-benar versi dari apa yang saya sebut 'Masalah Weinberg'. Dalam baris penutup bukunya, The First Three Minutes , 1977, fisikawan Stephen Weinberg dengan terkenal mengatakan: "Semakin banyak alam semesta tampak dapat dipahami, semakin banyak juga tampaknya tidak ada gunanya." . Masalah Weinberg adalah masalah kita, tentu saja; tetapi mesin akan memilikinya dalam sekop karena materialisme ilmiah tak menentu mereka, yang membuat ketidakberdayaan mereka jauh lebih menyeluruh daripada kita.

Saya tidak mengatakan sains mereka tidak akan memiliki pertanyaan yang belum terjawab. Mereka akan mewarisi ilmu pengetahuan kita, dan kita merangkak dengan pertanyaan. Bukan itu masalahnya. Masalahnya adalah pandangan dunia yang terlibat.