Seorang profesor computer sains University of Maryland, Ben Shneiderman menyampaikan bahwa bidang artificial intelligence (kecerdasan buatan) membutuhkan "visioner langit biru" yang menawarkan visi utopis tentang masa depan dan "pragmatis sepatu bot berlumpur" yang ingin merombak sistem bias yang dapat menyebarkan kebohongan, melanggar privasi, atau rasis atau seksis.
"Visioner langit biru" berspekulasi tentang kemungkinan masa depan teknologi, menggunakan fantasi utopis untuk membangkitkan kegembiraan. Ide-ide langit biru memang menarik, tetapi sering kali diselimuti oleh visi yang tidak realistis dan tantangan etis tentang apa yang dapat dan harus dibangun.
Sebaliknya, "pragmatis sepatu bot berlumpur" berfokus pada masalah dan solusi, yang ingin mengurangi bahaya yang dapat ditimbulkan oleh sistem infus kecerdasan buatan (AI) yang banyak digunakan. Fokus pada perbaikan sistem yang bias dan cacat, seperti dalam sistem pengenalan wajah yang sering keliru mengidentifikasi orang sebagai penjahat atau melanggar privasi. Kaum pragmatis ingin mengurangi kesalahan medis mematikan yang dapat dilakukan AI, dan mengarahkan mobil self-driving menjadi mobil yang aman.
Menurut Profesor Ben Shneiderman, visioner langit biru akan mendapat manfaat dengan mengambil pesan bijaksana dari realis sepatu bot berlumpur. Menggabungkan pekerjaan kedua kubu lebih mungkin menghasilkan hasil yang bermanfaat yang akan mengarah pada teknologi generasi berikutnya yang sukses.
Seiring percepatan waktu, mesin kecerdasan buatan (AI) menjadi lebih pintar dan lebih cepat. Model bahasa besar (juga disebut model dasar) menggunakan pembelajaran mesin untuk menganalisis kumpulan data yang sangat besar dan mengenali pola kata.Â
Model-model ini menjadi semakin kuat, dan penggunaannya telah melampaui teks untuk menyertakan gambar dan video. Teknologi berkembang begitu cepat sehingga para ahli bertanya apakah kontrol yang lebih ketat diperlukan untuk mencegah potensi penyalahgunaan, seperti mengancam privasi individu dengan mengumpulkan informasi digital terperinci.
Sementara itu, dalam survei McKinsey tahun 2021, hanya 27% dari sekitar 1.000 responden yang mengatakan bahwa profesional data mereka secara aktif memeriksa data miring atau bias selama penyerapan data.
Etika data merupakan hal yang penting. Dengan data yang tumbuh secara eksponensial, maka sebenarnya setiap perusahaan adalah perusahaan data. Oleh karena itu, setiap organisasi harus menetapkan praktik terbaiknya sendiri untuk mengelola data.Â
Namun masih sedikit yang mempertimbangkan aspek etika meskipun sudah mulai menangani aspek operasional manajemen data. Tak jarang terjadi kumpulan data dilanggar/diselewengan dengan dijual tanpa persetujuan, atau salah penanganan oleh oknum perusahaan sehingga perusahaan dapat terkena dampak signifikan terhadap reputasi dan kesehatan keuangan mereka.
Setiap perusahaan harus menetapkan praktik terbaiknya sendiri untuk mengelola datanya. Diperkirakan pada tahun 2025, individu dan perusahaan di seluruh dunia akan menghasilkan sekitar 463 exabyte data setiap hari,1 dibandingkan dengan kurang dari tiga exabyte satu dekade lalu. (Sumber: IBM Research Blog, 5 Maret 2013)
Oleh karena itu, sebagian besar bisnis telah mulai menangani aspek operasional manajemen data, menentukan cara membangun dan memelihara  bank data  dengan mengintegrasikan ilmuwan data dan pakar teknologi lainnya ke dalam tim yang ada. Di samping itu, beberapa  perusahaan juga secara sistematis sudah mempertimbangkan dan mulai menangani aspek etika manajemen data, yang dapat memiliki konsekuensi dan tanggung jawab yang luas.
Apabila algoritme dilatih dengan kumpulan data yang bias atau kumpulan data dilanggar, dijual tanpa persetujuan, atau salah penanganan, misalnya, perusahaan dapat menanggung biaya reputasi dan keuangan yang signifikan. Anggota dewan bahkan dapat dimintai pertanggungjawaban secara pribadi. (Sumber: CPO Magazine, 22 Februari 2022).
Jadi bagaimana seharusnya perusahaan mulai berpikir tentang pengelolaan data yang etis? Tindakan apa yang dapat mereka lakukan untuk memastikan bahwa mereka menggunakan konsumen, pasien, SDM, fasilitas, dan bentuk data lainnya dengan tepat di seluruh rantai nilai---mulai dari pengumpulan, analitik, hingga wawasan?
Beberapa jebakan manajemen data umum yang dapat menimpa para pemimpin dan organisasi. Jebakan tersebut mencakup pemikiran bahwa etika data tidak berlaku untuk organisasi perusahaan mereka, sehingga dalam mengejar ROI (Return on Invesment) jangka pendek dengan segala cara dan hanya melihat data daripada sumber data tersebut.Â
Banyak perusahaan berpikiran bahwa hukum dan kepatuhan memiliki etika data yang tercakup, dan bahwa ilmuwan data memiliki semua jawabannya, dan bila timbul masalah cukup sewa pengacara.
Beberapa karakteristik penggunaan data etis yang perlu dipahami oleh para eksekutif perusahaan dan pemimpin bisnis adalah sebagai berikut::
- Etika data menjaga keamanan data dan melindungi informasi pelanggan. Keamanan siber dan privasi data merupakan bagian tak terpisahkan dari etika data. Perusahaan memiliki tanggung jawab etis (serta kewajiban hukum) untuk melindungi data pelanggan, mempertahankan diri dari pelanggaran, dan memastikan bahwa data pribadi tidak dikompromikan.
- Etika data menawarkan manfaat yang jelas bagi konsumen dan perusahaan. Konsumen pasti mendapatkan sesuatu dari transaksi berbasis data. Jika perusahaan tidak memecahkan masalah bagi konsumen, maka perusahaan harus bertanya mengapa melakukan hal tersebut. Manfaat bagi pelanggan harus lugas dan mudah diringkas dalam satu kalimat: pelanggan mungkin mendapatkan kecepatan, kenyamanan, nilai, atau penghematan yang lebih besar.
- Etika data menawarkan pelanggan beberapa ukuran agensi. Jangan lakukan sesuatu yang membuat konsumen terkejut. Jika pelanggan menerima tawaran dan berkata, "Saya pikir saya mendapatkan ini karena cara Anda menggunakan data saya, dan itu membuat saya tidak nyaman. Saya rasa saya tidak pernah menyetujui ini." Dan, akhirnya pelanggan akan berkata, "Kami tidak akan pernah bersama perusahaan itu."
- Etika data sesuai dengan janji perusahaan. Dalam manajemen data, organisasi harus melakukan apa yang mereka katakan akan mereka lakukan, atau berisiko kehilangan kepercayaan pelanggan dan pemangku kepentingan utama lainnya. Menjaga kepercayaan dengan pemangku kepentingan dapat berarti menolak kontrak tertentu jika bertentangan dengan nilai dan komitmen data yang dinyatakan organisasi.
Untuk mengeksplorasi jebakan ini, ada beberapa cara potensial untuk menghindarinya, seperti mengadopsi standar baru untuk manajemen data, memikirkan kembali model tata kelola, dan berkolaborasi lintas disiplin dan organisasi. Namun yang jelas bahwa etika data dalam sebuah organisasi atau perusahaan membutuhkan perhatian lebih dan berkelanjutan dari semua pimpinan, anggota C-suite, termasuk CEO.
MERZA GAMALÂ
- Pengkaji Sosial Ekonomi Islami
- Author of Change Management & Cultural Transformation
- Former AVP Corporate Culture at Biggest Bank Syariah
