Hadirnya ChatGPT sebagai model Generative Artificial Intelligence (Kecerdasan Artificial Generatif) mendapatkan perhatian dunia karena kemampuannya membuat konten teks dan grafis yang mirip manusia secara meyakinkan. Kemampuan ChatGPT yang sedemikian rupa mirip karya manusia membuat sistem sekolah umum melarang penggunaannya di sekolah.
Teknologi ChatGPT yang merupakan produk dari OpenAI dan juga model lain kecerdasan artificial generative yang segera diterbitkan oleh pesaing dari Alphabet (perusahaan induk Google) dan Meta (group bisnis Facebook) menawarkan peluang menarik untuk pembuatan konten yang inovatif. Teknologi kecerdasan artificial generatif tersebut menghadirkan dilema etika yang tidak siap dihadapi oleh banyak organisasi.
Risiko yang ditimbulkan oleh teknologi kecerdasan artificial generatif (Generative AI), seperti pelanggaran privasi, bias, dan penipuan menambah tantangan baru. Misalnya, teknologi dapat disalahgunakan untuk menghasilkan deepfake (gambar atau video palsu yang dapat menampilkan orang atau individu secara negatif) atau menyebarkan informasi yang menyesatkan atau berbahaya.
Memang sudah seharusnya  CEO atau pimpinan tertinggi suatu organisasi untuk memastikan penyebaran sistem kecerdasan artificial yang bertanggung jawab. Akan tetapi, dengan munculnya Generative AI seperti ChatGPT dan akan disusul oleh Generative AI lain, maka sekarang menjadi lebih penting bagi para eksekutif untuk melakukan tugas ini secara pribadi. Pernyataan nilai perusahaan tingkat tinggi tidak akan cukup "di dunia di mana 'benar' dan 'salah' dapat menjadi ambigu" dan garis antara inovatif dan ofensif menjadi tipis akibat berkembangnya Generative AI.
Oleh karena itu, CEO atau pimpinan tertinggi sebuah Lembaga/Institusi perlu menetapkan standar yang jelas untuk organisasi mereka dengan "menggunakan contoh yang menunjukkan bagaimana setiap nilai diterjemahkan ke dalam pilihan dunia nyata yang dibuat oleh tim analitik".
Para pemimpin organisasi harus memberikan panduan untuk membantu tim analitik membangun dan menggunakan Generative AI secara bertanggung jawab dengan menerjemahkan nilai-nilai perusahaan/organisasi ke dalam pengembangan Generative AI, melalui hal-hal sebagai berikut:
- Perjelas bagaimana nilai diterjemahkan ke dalam pemilihan aplikasi Generative AI, seperti proses apa yang akan diotomatisasi;
- Memberikan panduan tentang definisi dan metrik untuk mengevaluasi Generative AI untuk bias dan keadilan;
- Memberi nasihat tentang hierarki nilai-nilai perusahaan dan peran keragaman dalam pemilihan talent perusahaan/organisasi.
Setelah menerjemahkan nilai-nilai perusahaan/organisasi, maka gali lebih dalam dengan mengajukan pertanyaan kepada tim analitik di bidang utama, mencakup hal-hal sebagai berikut:
- Akuisisi data: Apakah sudah selaras dengan ekspektasi pemangku kepentingan untuk penggunaan data mereka?
- Kesesuaian kumpulan data: Apakah kumpulan data sudah mencerminkan populasi dunia nyata? Sudahkah kumpulan data tersebut memasukkan data yang relevan dengan kelompok minoritas?
- Keadilan Output AI: Apakah sudah dipertimbangkan keadilan pada setiap titik dalam proses pengembangan, termasuk pemilihan data, pemilihan fitur, dan pembuatan dan pemantauan model?
- Kepatuhan dan keterlibatan peraturan: Apakah sudah memiliki kepatuhan yang dibangun dalam alur kerja organisasi, dan apakah bisa berbagi pasar dan ketajaman teknis dalam pengembangan peraturan baru?
- Penjelasan Model AI: Apakah perusahaan/organisasi dapat menggunakan model kinerja paling sederhana dan teknik penjelasan terbaru?
Survei Global McKinsey tentang Artificial Intelligence (AI) tahun 2022 hanya menemukan sebanyak 51% organisasi yang bekerja untuk memitigasi risiko keamanan siber terkait AI. Kondisi tersebut hanya sedikit lebih tinggi dari 48 persen yang dilaporkan pada tahun 2019. Sementara itu, adopsi AI meningkat lebih dari dua kali lipat dari tahun 2019 ke tahun 2022.
Hal yang perlu diwaspadai adalah kurangnya kemajuan dalam memitigasi risiko terkait AI. Kemampuan mitigasi risiko terkait masih sama dengan kondisi tahun 2017. Temuan McKinsey menyatakan bahwa mitigasi risiko privasi pribadi bahkan lebih rendah daripada tahun 2019, dan mengelola "kemampuan untuk dijelaskan" sebagai kapasitas untuk mengungkapkan bagaimana model AI mengambil keputusan hampir-hampir tidak meningkat dalam tiga tahun terakhir.
Generative AI, seperti ChatGPT dan sejenisnya yang akan lahir dari pesaing OpenAI, bukanlah teknologi siap pakai. Para ahli McKinsey yang disampaikan melalui insight berlangganan memperingatkan: "Kelahiran ChatGPT dan model Generative AI lainnya mengharuskan eksekutif untuk melanjutkan dengan sangat hati-hati."
Para CEO perusahaan dan pemimpin organisasi harus mampu mendekati regulasi sistem AI, dengan cara yang bijaksana dan terukur dalam mengelola tata kelola Generative AI. Para pemimpin harus mempertimbangkan penerapan peraturan yang menyeimbangkan kebutuhan untuk mempromosikan penggunaan Generative AI sesuai dengan kebutuhan untuk melindungi publik dan memastikan bahwa sistem Generative AI digunakan secara bertanggung jawab.
