Bagaimana Kecerdasan Buatan Bisa Memperburuk Keputusan Administratif?

Kecerdasan buatan dalam administrasi bisa memperburuk keputusan jika mengabaikan keterbatasan data dan rasionalitas manusia.

Dulu, pekerjaan administratif memakan waktu lama. Sekarang, dengan kecerdasan buatan (AI), semuanya bisa selesai lebih cepat. Keputusan yang dulu butuh diskusi panjang bisa dibuat dengan satu klik mesin. 

Namun, apa kemudahan ini benar-benar menguntungkan? Ada sisi gelap yang sering terlupakan. Meski efisien, AI bisa menjadi pedang bermata dua, terutama saat kita membahas bounded rationality. 

Sebuah konsep yang menunjukkan keterbatasan manusia dalam mengambil keputusan rasional. Sebelum menerima AI sebagai solusi sempurna untuk masalah administratif, banyak hal yang harus dipertimbangkan.

Ancaman Tersembunyi AI di Balik Layar Administrasi

Banyak perusahaan kini menggunakan AI untuk memilih kandidat terbaik berdasarkan resume dan data lainnya. Tujuannya jelas, agar proses seleksi lebih cepat dan mengurangi kesalahan manusia. 

Namun, masalah besar muncul, yakni bias algoritma. Meski AI dirancang untuk menghilangkan ketidaksamaan, AI sendiri bisa sangat rentan terhadap bias, tergantung pada data yang digunakan untuk melatihnya.

Contohnya, dalam seleksi karyawan, sistem AI sering menggunakan data historis. Data ini bisa mengandung bias struktural. 

Misalnya, jika dalam sejarah perusahaan lebih banyak pria diterima dalam suatu posisi, AI akan lebih cenderung memilih pria daripada wanita, meski wanita tersebut lebih memenuhi syarat. 

Ini disebut algorithmic bias, yaitu bias yang muncul karena AI hanya memproses data yang ada dan tidak bisa melihat alternatif yang lebih adil.

Menurut id.employer.seek.com (2024), bias ini sering terjadi dalam sistem rekrutmen berbasis AI. Ini membuat keputusan AI diskriminatif meskipun tujuannya mengurangi kesalahan manusia.