Di panggung teknologi, Artificial Intelligence (AI) sering duduk di kursi terhormat, disorot lampu, dan dielu-elukan sebagai jawaban dari semua problem modern. Ia menjawab dengan percaya diri, menulis dengan fasih, bahkan menyusun strategi bisnis bak konsultan kawakan. Namun, jika kita berhenti sejenak dan menguji jawabannya, sering kali muncul fakta pahit: di balik kecanggihannya, AI tetaplah rentan, rapuh, dan dalam banyak hal hanya sekadar "boneka pintar" yang kebanyakan bicara.
Fenomena ini terlihat jelas pada sifat overconfident. AI dapat menyampaikan jawaban dengan penuh keyakinan, tetapi ternyata keliru total. Fenomena ini dikenal sebagai hallucination (Ji et al., 2023). Ia tidak merasa bersalah, tidak pernah malu, karena tidak memiliki kesadaran. Yang ada hanyalah algoritma yang memprediksi kata demi kata untuk membentuk kalimat yang terdengar logis.
Kelemahan berikutnya adalah ketidakpahaman yang sejati. AI bukan filsuf dan tidak memiliki pengalaman hidup. Ia tidak merasakan hangatnya pagi atau getirnya kopi tanpa gula. Seperti dijelaskan oleh konsep bounded rationality (Simon, 1957), bahkan manusia membuat keputusan dengan keterbatasan informasi, apalagi AI yang hidup sepenuhnya dari data masa lalu.
Masalah bertambah ketika kita menyadari bahwa AI bekerja dengan pengetahuan yang kadaluarsa. Model seperti ChatGPT memiliki knowledge cutoff, ia tidak mengetahui perkembangan terbaru kecuali terhubung ke sumber data real-time. Mengandalkannya untuk informasi terkini sama saja menanyakan berita hari ini pada koran tahun lalu.
Lebih jauh lagi, AI membawa bias bawaan dari data manusia yang digunakannya sebagai bahan belajar. Bias ini dapat berupa stereotip gender, prasangka rasial, hingga framing politik. Fenomena ini dikenal sebagai algorithmic bias (Friedman & Nissenbaum, 1996), dan dapat menyelinap diam-diam ke setiap rekomendasi yang ia hasilkan.
Secara teknis, keterbatasan ini telah lama diprediksi. Teorema No Free Lunch (Wolpert & Macready, 1997) menegaskan bahwa tidak ada algoritma yang unggul di semua permasalahan. AI bekerja optimal hanya di domain yang sesuai karakter datanya. Dalam kerangka Information Bottleneck (Tishby & Pereira, 1999), upaya kompresi informasi yang berlebihan justru membuatnya kehilangan konteks penting, menghasilkan jawaban yang dikemas rapi tetapi salah.
Masalah lain adalah sifat black box. Model deep learning dapat menghasilkan keputusan, tetapi logika di balik keputusan tersebut sulit atau mustahil dijelaskan. Upaya Explainable AI (Doshi-Velez & Kim, 2017) berusaha membuka kotak hitam ini, namun sering kali gagal memberikan transparansi yang memadai tanpa mengorbankan performa.
Kerentanan lain adalah adversarial vulnerability. Sedikit manipulasi input, seperti mengubah kata atau piksel dapat membuat AI salah besar (Goodfellow et al., 2014). Kelemahan ini menunjukkan bahwa AI tidak hanya bergantung pada data, tetapi juga rapuh terhadap gangguan yang disengaja.
Di luar persoalan teknis, dampak nyata AI juga signifikan. Biaya komputasi untuk melatih model besar sangat tinggi, konsumsi energinya menimbulkan jejak karbon setara industri peternakan (Henderson et al., 2020), dan otomatisasi dapat menggeser jutaan pekerjaan (Brynjolfsson & McAfee, 2014).
Semua ini menunjukkan bahwa kelemahan AI bukanlah cacat sementara yang dapat diperbaiki dengan pembaruan perangkat lunak. Ia adalah konsekuensi langsung dari batasan teoretis dan arsitektur yang digunakan. No Free Lunch, PAC-Bayes bounds (McAllester, 1999), dan Information Bottleneck hanyalah beberapa dari sekian banyak teori yang sudah lama memberi peringatan. AI itu terbatas, dan keterbatasannya bersifat fundamental.
Maka, ketika ada yang menyatakan "AI akan menggantikan manusia sepenuhnya", sikap bijaknya adalah skeptis. AI adalah alat yang hebat jika digunakan dengan benar, namun tetap memerlukan pengawasan manusia. Ia dapat menjadi asisten brilian yang membantu pekerjaan kita, tetapi bukan pengambil keputusan mutlak. Kelemahan terbesar AI bukan terletak pada algoritmanya, melainkan pada manusia yang terlalu percaya kepadanya.(AM)
Referensi
Brynjolfsson, E., & McAfee, A. (2014). The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. W. W. Norton & Company.
Doshi-Velez, F., & Kim, B. (2017). Towards a rigorous science of interpretable machine learning. arXiv preprint arXiv:1702.08608.
Friedman, B., & Nissenbaum, H. (1996). Bias in computer systems. ACM Transactions on Information Systems, 14(3), 330--347.
Goodfellow, I., Shlens, J., & Szegedy, C. (2014). Explaining and harnessing adversarial examples. arXiv preprint arXiv:1412.6572.
Henderson, P., et al. (2020). Towards the systematic reporting of the energy and carbon footprints of machine learning. Journal of Machine Learning Research, 21(248), 1--43.
Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., ... & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1--38.
McAllester, D. A. (1999). PAC-Bayesian model averaging. In Proceedings of the Twelfth Annual Conference on Computational Learning Theory (pp. 164--170). ACM.
Simon, H. A. (1957). Models of Man; Social and Rational. Wiley.
Tishby, N., & Pereira, F. C. (1999). The information bottleneck method. Proceedings of the 37th Annual Allerton Conference on Communication, Control, and Computing.
Wolpert, D. H., & Macready, W. G. (1997). No free lunch theorems for optimization. IEEE Transactions on Evolutionary Computation, 1(1), 67--82.
Follow Instagram @kompasianacom juga Tiktok @kompasiana biar nggak ketinggalan event seru komunitas dan tips dapat cuan dari Kompasiana. Baca juga cerita inspiratif langsung dari smartphone kamu dengan bergabung di WhatsApp Channel Kompasiana di SINI
