Semua ini menunjukkan bahwa kelemahan AI bukanlah cacat sementara yang dapat diperbaiki dengan pembaruan perangkat lunak. Ia adalah konsekuensi langsung dari batasan teoretis dan arsitektur yang digunakan. No Free Lunch, PAC-Bayes bounds (McAllester, 1999), dan Information Bottleneck hanyalah beberapa dari sekian banyak teori yang sudah lama memberi peringatan. AI itu terbatas, dan keterbatasannya bersifat fundamental.
Maka, ketika ada yang menyatakan "AI akan menggantikan manusia sepenuhnya", sikap bijaknya adalah skeptis. AI adalah alat yang hebat jika digunakan dengan benar, namun tetap memerlukan pengawasan manusia. Ia dapat menjadi asisten brilian yang membantu pekerjaan kita, tetapi bukan pengambil keputusan mutlak. Kelemahan terbesar AI bukan terletak pada algoritmanya, melainkan pada manusia yang terlalu percaya kepadanya.(AM)
Referensi
Brynjolfsson, E., & McAfee, A. (2014). The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. W. W. Norton & Company.
Doshi-Velez, F., & Kim, B. (2017). Towards a rigorous science of interpretable machine learning. arXiv preprint arXiv:1702.08608.
Friedman, B., & Nissenbaum, H. (1996). Bias in computer systems. ACM Transactions on Information Systems, 14(3), 330--347.
Goodfellow, I., Shlens, J., & Szegedy, C. (2014). Explaining and harnessing adversarial examples. arXiv preprint arXiv:1412.6572.
Henderson, P., et al. (2020). Towards the systematic reporting of the energy and carbon footprints of machine learning. Journal of Machine Learning Research, 21(248), 1--43.
Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., ... & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1--38.
McAllester, D. A. (1999). PAC-Bayesian model averaging. In Proceedings of the Twelfth Annual Conference on Computational Learning Theory (pp. 164--170). ACM.
Simon, H. A. (1957). Models of Man; Social and Rational. Wiley.
