Gemerlap AI dan Mereka yang Terabaikan: Menyoroti Kemanusiaan dalam Bayang-bayang AI melalui "Negative Scholarship on The Fifth State of Being"

Penjelasan kompleks mengenai dominasi kolonial terhadap pengetahuan melalui AI berhasil dinarasikan oleh Prihandita dengan gamblang melalui upaya Semau mencari informasi mengenai apa yang dialami oleh Txyzna. Setelah membeli paket sumber data latihan untuk mendiagnosis spesies Plyzmorynox, Semau menemukan bahwa konten data sangat terbatas. Hanya terdapat informasi mengenai pengukuran badan tiga individu Plyzmorynox, deskripsi iklim dari planet asal Plyzmorynox, 10 halaman cetak biru senjata biologis dari Kerajaan Umunua, dan 20 halaman catatan lapangan dari seorang etnografer. Dengan data latihan tersebut, lebih mudah bagi sistem Brasz untuk merumuskan genosida terhadap spesies Plyzmorynox dibanding mendiagnosis perubahan pada tubuh unik spesies tersebut. 

Keluaran dari AI pun masih menyimpan bias-bias prejudis, rasisme, dan seksisme yang ada pada keilmuan barat. Pada akhirnya, alat AI seperti ChatGPT yang dilatih dengan datasets Barat-sentris akan mereplikasi kerangka berpikir kolonial dengan mengutamakan pemikiran barat dibandingkan suara masyarakat yang termarjinalkan. 

Seiring dengan terbangunnya komunikasi antara Semau dan Txyzna, Semau menyadari bahwa kegagalan AI dalam memahami Plyzmorynox tidak hanya terjadi pada sistem diagnosis. Kegagalan AI juga terjadi pada sistem pengalih bahasa yang selama ini mereka percaya untuk menjembatani percakapan berbeda bahasa. Kesalahan AI dalam menerjemahkan ucapkan Txyzna membuat ia tidak mendapatkan bantuan yang ia perlukan untuk menavigasi perubahan kondisi kelima (fifth state) yang menciptakan "lubang" di tubuhnya. 

Narasi kolonial dalam sistem bahasa AI juga muncul dalam upaya Semau dan Txyzna memahami kondisi kelima dalam tubuh Txyzna. Txyzna menceritakan bahwa ia datang pada Semau karena ia membutuhkan seorang dokter untuk membantunya. Akan tetapi, "dokter" yang dimaksud oleh Txyzna tidak sama dengan konsep dokter medis seperti yang didefinisikan oleh INT-Health Inc., the Medical Board of Ethics, maupun the Intergalactic Consortium of Medical Universities. Bagi plyzmorynox, "dokter" adalah tetua spiritual yang membantu plyzmorynox muda dalam proses transisi tubuh mereka ketika mereka tumbuh dewasa. Transformasi  pada tubuh seorang plyzmorynox tersebut mengakibatkan timbulnya "lubang" yang harus dideskripsikan oleh individu dengan bantuan tetua spiritual.  Setelah genosida terjadi, peran tetua spiritual sebagai pembimbing plyzmorynox muda pun hilang. Txyzna tidak tahu lagi siapa yang dapat membantunya memahami perubahan pada tubuhnya.  

Kepercayan buta kita pada hasil yang diberikan oleh AI membuat kita terkadang luput mengkritisi kinerja mereka. Kita pun menerima hasil kerja AI yang penuh dengan bias dan keterbatasan tersebut tanpa berpikir dua kali. Pada akhirnya, kelompok minoritas rentan seperti masyarakat adat lah yang merasakan dampak dari bias tersebut.

Ancaman Penggunaan AI dalam Sistem Pengawasan

Dalam pengembangannya, AI juga digunakan untuk melakukan pengawasan pada masyarakat. Setiap gerak-gerik Semau diawasi oleh sistem AI Brasz yang sebenarnya memiliki fungsi utama mendiagnosis pasien. Data tersebut didapatkan oleh INT-Health, perusahaan yang mengoperasikan Brasz, melalui rekaman percakapan pasien-dokter tanpa Semau mengaktifkan mode rekaman. Di sini lah pengawasan dengan AI menimbulkan ancaman pada masyarakat demokratis. Pengambilan data oleh AI mengaburkan batasan antara ruang privat dan ruang publik dengan cara menggunakan data dari kehidupan privat individu untuk menjadi dasar keputusan yang bersifat publik.

Semau disebut melanggar kewenangannya dalam mendiagnosis pasien tanpa sistem Brasz. Padahal saat itu Semau hanya berbasa-basi menanyakan kondisi Txyzna. Pengawasan yang dilakukan oleh AI memiliki risiko tinggi karena AI menjanjikan prediksi perilaku masa depan. Prediksi tersebut didapatkan melalui pola perilaku yang ditemukan pada banyak orang lainnya. Keputusan mengenai risiko pelanggaran pun dibuat dengan mengategorikan individu ke dalam kelompok data individu-individu menyimpang. 

Penggunaan prediksi AI dalam pemolisian tersebut mendorong lingkaran pengawasan dan pengendalian perilaku masyarakat yang dapat dipergunakan untuk penyalahgunaan kekuasaan. Pada akhirnya, kelompok minoritas yang sering mengalami pengendalian dan pemolisian akan memiliki frekuensi risiko prediksi pelanggaran yang lebih tinggi. Mentor lama Semau yang telah meninggal pernah belajar dengan The Negative Scholar, yaitu organisasi perlawanan yang terdiri dari dokter-dokter yang menolak penggunaan Brasz untuk diagnosis. Oleh karena itu, sistem Brasz langsung mengasosiasikan Semau dengan The Negative Scholar dan mengambil langkah-langkah pengendalian. 

Refleksi AI dalam Singgungannya dengan Kelompok Minoritas

Dalam kondisi perkembangan teknologi saat ini, Novelette karya Prihandita menjadi pengingat tentang risiko kemanusiaan yang sering kali terabaikan dalam hiruk pikuk investasi dan pembangunan. AI sebagai alat memang memiliki berbagai kelebihan yang dapat membantu kesejahteraan manusia. Akan tetapi, AI juga dapat menjadi alat bagi kolonialisme dan otoriter untuk mengendalikan masyarakat. Walaupun  genosida pada Plymorynox telah berhenti, Txyzna masih mengalami upaya pembunuhan secara sistematis melalui penerapan AI yang penuh bias dalam institusi kesehatan.  Semau sendiri mengalami kriminalisasi oleh korporasi yang berusaha untuk memprivatisasi sistem kesehatan. Upaya pengendalian tersebut juga menunjukkan bagaimana sistem hukum menjadi kaki tangan korporasi dengan penghukuman pada kelompok perlawanan The Negative Scholarship. 

Pada akhir kisah, Semau memutuskan untuk membantu Txyzna dengan empati. Berdampingan mereka menavigasi apa makna dari keadaan kelima yang dialami oleh Txyzna. Txyzna pun mempercayai Semau untuk hadir menyaksikan perubahan yang ia alami menuju The Fifth State dan memahami jiwa Txyzna. Kebersamaan itu memberi mereka pemahaman mengenai Plyzmorynox, lebih dari apa yang bisa diberikan oleh AI. Semua karena mereka mendobrak batasan kebijakan yang membuat mereka bergantung pada AI dan segala bias yang mengikuti.

Mungkin itu yang perlu kita pahami sebelum kita semakin membiarkan AI masuk dalam berbagai aspek kehidupan masyarakat. AI hanya memiliki kemampuan untuk memahami pola dari data-data yang mereka pelajari. Mereka tidak memiliki kemampuan untuk merasakan empati dan keberpihakan pada kelompok minoritas yang rentan. AI sebagai sistem pun dapat digunakan sebagai alat oleh pihak manapun yang memiliki kekuasaan atas sistem tersebut. Akan tetapi sebagai mesin, AI tidak dapat dimintai akuntabilitas atas tindakan yang diambil. Oleh karena itu, kita tidak dapat membiarkan AI memegang kendali dalam kerja-kerja yang memerlukan nilai kemanusiaan dan keadilan.