Di panggung teknologi, Artificial Intelligence (AI) sering duduk di kursi terhormat, disorot lampu, dan dielu-elukan sebagai jawaban dari semua problem modern. Ia menjawab dengan percaya diri, menulis dengan fasih, bahkan menyusun strategi bisnis bak konsultan kawakan. Namun, jika kita berhenti sejenak dan menguji jawabannya, sering kali muncul fakta pahit: di balik kecanggihannya, AI tetaplah rentan, rapuh, dan dalam banyak hal hanya sekadar "boneka pintar" yang kebanyakan bicara.
Fenomena ini terlihat jelas pada sifat overconfident. AI dapat menyampaikan jawaban dengan penuh keyakinan, tetapi ternyata keliru total. Fenomena ini dikenal sebagai hallucination (Ji et al., 2023). Ia tidak merasa bersalah, tidak pernah malu, karena tidak memiliki kesadaran. Yang ada hanyalah algoritma yang memprediksi kata demi kata untuk membentuk kalimat yang terdengar logis.
Kelemahan berikutnya adalah ketidakpahaman yang sejati. AI bukan filsuf dan tidak memiliki pengalaman hidup. Ia tidak merasakan hangatnya pagi atau getirnya kopi tanpa gula. Seperti dijelaskan oleh konsep bounded rationality (Simon, 1957), bahkan manusia membuat keputusan dengan keterbatasan informasi, apalagi AI yang hidup sepenuhnya dari data masa lalu.
Masalah bertambah ketika kita menyadari bahwa AI bekerja dengan pengetahuan yang kadaluarsa. Model seperti ChatGPT memiliki knowledge cutoff, ia tidak mengetahui perkembangan terbaru kecuali terhubung ke sumber data real-time. Mengandalkannya untuk informasi terkini sama saja menanyakan berita hari ini pada koran tahun lalu.
Lebih jauh lagi, AI membawa bias bawaan dari data manusia yang digunakannya sebagai bahan belajar. Bias ini dapat berupa stereotip gender, prasangka rasial, hingga framing politik. Fenomena ini dikenal sebagai algorithmic bias (Friedman & Nissenbaum, 1996), dan dapat menyelinap diam-diam ke setiap rekomendasi yang ia hasilkan.
Secara teknis, keterbatasan ini telah lama diprediksi. Teorema No Free Lunch (Wolpert & Macready, 1997) menegaskan bahwa tidak ada algoritma yang unggul di semua permasalahan. AI bekerja optimal hanya di domain yang sesuai karakter datanya. Dalam kerangka Information Bottleneck (Tishby & Pereira, 1999), upaya kompresi informasi yang berlebihan justru membuatnya kehilangan konteks penting, menghasilkan jawaban yang dikemas rapi tetapi salah.
Masalah lain adalah sifat black box. Model deep learning dapat menghasilkan keputusan, tetapi logika di balik keputusan tersebut sulit atau mustahil dijelaskan. Upaya Explainable AI (Doshi-Velez & Kim, 2017) berusaha membuka kotak hitam ini, namun sering kali gagal memberikan transparansi yang memadai tanpa mengorbankan performa.
Kerentanan lain adalah adversarial vulnerability. Sedikit manipulasi input, seperti mengubah kata atau piksel dapat membuat AI salah besar (Goodfellow et al., 2014). Kelemahan ini menunjukkan bahwa AI tidak hanya bergantung pada data, tetapi juga rapuh terhadap gangguan yang disengaja.
Di luar persoalan teknis, dampak nyata AI juga signifikan. Biaya komputasi untuk melatih model besar sangat tinggi, konsumsi energinya menimbulkan jejak karbon setara industri peternakan (Henderson et al., 2020), dan otomatisasi dapat menggeser jutaan pekerjaan (Brynjolfsson & McAfee, 2014).
