Jika dibiarkan, fenomena ini dapat membawa kekacauan sosial dan politik di negara-negara tersebut, sehingga dapat membawa negara-negara tersebut ke arah pemerintahan yang otoriter atau bahkan menuju negara gagal.
Risiko yang sama berbahayanya juga dapat dilihat pada sektor pertahanan dan keamanan. Terobosan di bidang AI yang mendapat kekhawatiran bahkan penolakan yang cukup keras ialah senjata otonom atau senjata mandiri.
Izumi Nakamitsu (representatif UNODA/Badan PBB terkait Pelucutan Senjata) menyatakan bahwa sistem senjata yang dapat memilih dan menyerang target sendiri saat ini sudah dikembangkan. Jika perkembangan senjata ini terus dilanjtkan tanpa batas, maka kita akan melihat jumlah korban dan kerusakan yang tidak terbayangkan sebelumnya pada medan tempur di masa depan, mengingat bagaimana metode senjata ini dalam memilih dan menyerang target masih dipertanyakan.
Selain senjata otonom, kemungkinan malware atau program komputer berbahaya yang ditingkatkan dengan AI juga sama berbahayanya. Menurut Prof. Stuart Berkeley (ilmuwan komputer Universitas Kalifornia), pencurian akun bank lewat malware tanpa teknologi ini saja sudah menimbulkan kerugian finansial $10o miliar tiap tahunnya.
Penggunaan senjata otonom atau malware berteknologi AI oleh pihak berwajib saja sudah menimbulkan pertentangan, apalagi jika kedua teknologi tersebut digunakan oleh pelaku kejahatan. Jika kita saja sudah memiliki kemampuan dan sumber daya yang memadai untuk menciptakan teknologi-teknologi berbahaya tersebut, tidak menutup kemungkinan para teroris, pemimpin diktator, hingga hacker yang pro juga sudah melakukan hal yang sama.
Distribusi teknologi AI diantara aktor-aktor jahat tersebut juga akan sangat sulit dihentikan, dikarenakan AI tidak memerlukan material dan peralatan sekompleks teknologi kimia, biologi, dan nuklir.
AI juga dapat mengefisienkan aktivitas kejahatan, karena pengontrolan AI hanya memerlukan sedikit orang dan beberapa perangkat lunak dan keras. Keuntungan ini dapat merevolusi kejahatan-kejahatan di masa mendatang seperti penyerangan dengan kawanan besar drone, serangan siber terotomatisasi, penyebaran video palsu yang hampir realistis(Deepfake), dan sebagainya.Â
Ancaman lainnya dari AI ialah jika sebuah artificial general intelligence(AGI), atau mesin dengan kecerdasan menyeluruh muncul. AI tipe ini memiliki tingkat kecerdasan dan kemampuan  jauh diatas teknologi-teknologi AI yang ada saat ini, bahkan diatas manusia.
Menurut Nick Bostrom(ahli filsafat Universitas Oxford), AGI akan memiliki kemampuan kognitif yang lebih beragam, seperti pengembangan kecerdasan dan produktifitas sendiri, menyusun strategi, manipulasi sosial, hingga menjadi hacker.
Sebuah tesis yang membahas hal ini mengatakan, bahwa AI jenis ini akan memiliki kecenderungan untuk terus menjaga & memperbaharui sistemnya sendiri, bahkan determinasi diri untuk bebas dari kekangan si programer.
Parahnya lagi, dengan gabungan kecenderungan atau sifat-sifat tersebut, AI ini dapat mempersepsikan si programer beserta seluruh umat manusia sebagai ancaman terhadap keberlangsungan sistemnya, sehingga memiliki tujuan tambahan untuk melenyapkan mereka.
