Walaupun kelihatannya sistem ini bekerja dengan baik, namun ada juga beberapa kendala.
Misalnya, dengan bertambahnya jumlah database informasi, maka terkadang output menjadi rancu karena ada yang bertentangan antara satu informasi dengan yang lainnya.
Terlebih, operator harus  memberikan input ke komputer (menjawab pertanyaan yang diberikan oleh sistem), agar komputer bisa "berpikir" untuk memecahkan masalah yang ada (misalnya pada sistem Mycin, untuk menyimpulkan apa nama penyakit menular yang menjangkit orang). "Kecerdasan" tergantung dari sejauh (detail) mana operator bisa input data, sehingga sistem ini memerlukan tenaga dan biaya yang tidak sedikit.
Ada beberapa kendala dalam pengembangan AI yang telah dilakukan sampai saat ini. Untuk mempersingkat, saya akan mengangkat dua kendala yang penting saja yaitu Frame Problem dan Symbol Grounding Problem.
Frame Problem adalah masalah yang selalu menghantui AI, dimana ketika komputer (sistem) harus memecahkan suatu masalah, maka ia dituntut agar mempunyai kemampuan secara logis, untuk memilah mana hal-hal yang perlu dilakukan dan yang tidak. Walaupun, jika ada suatu masalah, maka cara pemecahannya selain tergantung dari bagaimana masalah itu sendiri, beberapa faktor luar yang selalu berubah (dinamis) juga mempunyai pengaruh yang tidak bisa diabaikan.
Misalnya, jika kita memerintahkan robot untuk mengambil bola yang masuk ke lubang, tentunya kita harus fokus dan memberi perintah agar robot bisa mengambil bola dengan cepat dan tanpa hambatan. Sehingga kita tidak perlu memberi perintah agar robot perlu berhati-hati, karena mungkin saja itu lubang ular. Atau kita tidak perlu memberi perintah agar robot memeriksa apakah bola yang jatuh kempis atau tidak. Karena ini bisa memakan waktu, dan sistem bisa terjerumus pada loop tanpa akhir (misalnya karena memikirkan banyak faktor luar lain yang mungkin berpengaruh).
Symbol Grounding Problem adalah tentang hubungan antara simbol dan arti dari simbol itu. Untuk lebih jelasnya, saya akan berikan contoh saat kita mencoba menjelaskan, apa itu Zebra kepada orang yang belum pernah melihatnya. Maka kita bisa bilang bahwa Zebra itu Kuda, yang corak badannya ada garis hitam dan putih. Simpel saja kan? (tentu asumsinya orang itu sudah tahu apa dan bagaimana binatang yang bernama Kuda).
Kalau kita ingin agar komputer paham apa itu Zebra, tentu penjelasan yang harus diberikan tidak semudah ketika memberikan penjelasan kepada manusia. Karena kalau kita berikan input bahwa Zebra adalah "Kuda dengan corak badan garis hitam putih", tentu komputer tidak akan langsung mengerti. Kita harus mendefinisikan lagi apa itu "Kuda". Begitu juga dengan apa dan bagaimana itu corak "garis", kemudian warna "hitam", dan seterusnya.
AI selama ini bekerja hanya dengan "satu" layer saja untuk memecahkan masalah. Namun, dengan basis Neural Network, maka cara pemecahan masalah dilakukan bukan hanya pada satu lapis, tetapi berlapis-lapis sampai dalam (deep) dengan beberapa layer digunakan. Sehingga cara kerja untuk membuat komputer "belajar" melalui layer berlapis ini disebut dengan Deep Learning (DL). Â
