Abdul Malik menggeser poros tengah masjid sekitar 40 meter ke arah barat, sesuai dengan rencana lengkapnya atas Al-Haram Asy-Syarif. Poros bangunan sebelumnya yang berbentuk sebuah ceruk, saat ini masih dikenal dengan sebutan "Mihrab Umar". Karena memperhatikan benar posisi  Kubah batu, Abdul Malik meminta arsiteknya menyejajarkan Masjid Al-Aqsa yang baru dengan posisi batu Ash Shakrah  sehingga sumbu utama utara-selatan Bukit Bait Suci yang sebelumnya, yaitu garis yang melalui Kubah Silsilah dan Mihrab Umar, menjadi bergeser. Kemudian putra Abdul Malik, Al Walid bin Abdul Malik menyelesaikan proses pembangunan yang sudah dimulai ayahnya hingga selesai.
Pada tahun 713M -- 714M, serangkaian gempa bumi telah merusak Yerusalem dan juga menghancurkan bagian timur masjid, yang akhirnya dibangun kembali pada masa pemerintahan Al-Walid. Untuk membiayai rekonstruksi ini, Al-Walid memerintahkan emas dari Kubah Ash-Shakhrah dicetak sebagai sebagai uang logam untuk membeli bahan-bahan bangunan. Masjid Al-Aqsha yang dibangun Umayyah kemungkinan besar berukuran 112 x 39 meter.
Masjidil Aqsha kembali mengalami beberapa kali gempa bumi yaitu pada tahun 746M. Pada tahun 753M Khalifah Abbasiyah yang kedua yaitu  Abu Jafar Al-Mansur menyatakan niatnya untuk memperbaiki masjid itu. Ia memerintahkan agar lempengan emas dan perak yang menutupi gerbang masjid dilepaskan dan dicetak menjadi uang dinar dan dirham untuk membiayai kegiatan rekonstruksi, yang diselesaikan pada tahun 771M. Gempa kedua yang terjadi pada tahun 774M kemudian merusak sebagian besar perbaikan Al-Mansur itu, kecuali perbaikan pada bagian selatan masjid.Â
Pada tahun 780M, khalifah selanjutnya yaitu Muhammad Al-Mahdi membangunnya kembali, tapi beliau mengurangi panjangnya serta memperbesar lebarnya. Renovasi Al-Mahdi adalah renovasi pertama yang diketahui memiliki catatan tertulis yang menjelaskan hal itu. Pada tahun 985M, seorang ahli geografi Arab kelahiran Yerusalem bernama Al-Maqdisi mencatat bahwa masjid hasil renovasi memiliki "lima belas lengkungan dan lima belas gerbang".
Pada tahun 1033M terjadi lagi sebuah gempa bumi, yang begitu merusak struktur masjid. Antara tahun 1034M dan 1036M, khalifah Fatimiyah Ali Azh-Zhahir membangun kembali dan merenovasi masjid secara menyeluruh. Jumlah lengkungan secara drastis dikurangi dari lima belas menjadi tujuh. Azh-Zhahir membangun empat buah arkade untuk aula tengah dan lorong, yang saat ini berfungsi sebagai fondasi masjid. Aula tengah diperbesar dua kali lipat dari lebar lorong lainnya, dan memiliki ujung atap besar yang di atasnya dibangun sebuah kubah dari kayu.
Pada tahun 1095M, Kaisar Byzantium meminta bantuan kepada Paus Urbanus II di Roma untuk melawan pasukan Seljuk di semenanjung Anatolia. Paus kemudian menyetujuinya dan menjawab dengan seruan Perang Salib yang tidak hanya untuk melawan Pasukan Seljuk tetapi juga menaklukan Palestina/Yerusalem yang pada saat itu berada di bawah kekuasaan kaum Muslim Fatimiyah dari Bani Seljuk. Pasukan Salib lalu menguasai Yerusalem pada 15 Juli 1099M.
Sejarah mencatat bagaimana Pasukan Salib  membantai seluruh umat Islam yang berlarian menyelamatkan diri ke Masjid Al Aqsa dan tanpa memperdulikan tempat suci pasukan Salib membantai ribuan umat muslim tersebut, tua muda, perempuan dan termasuk anak-anak. Kengerian ini di gambarkan oleh Karen Arsmtrong, "darah menggenang sampai lutut". "Di mana-mana tercecer potongan-potongan tubuh manusia, badan tanpa kepala dan bagian-bagian tubuh yang dimutilasi, terserak-serak di segala penjuru," tambah Montefiore.
Kemudian Masjidil Aqsa di jadikan tempat tinggal oleh Godfrey dengan mengganti interior masjid menjadi Istana dengan kebun dan kamar-kamar. Symbol -- symbol Islam di tutup bahkan sebagian dari Masjid di jadikan kandang kuda. Begitupun halnya dengan Dome of the Rock yang kemudian di ubah menjadi gereja. Umat Islam di larang memasuki wilayah ini dan Masjidil Aqsha sunyi tanpa suara azan dan lantunan ayat -- ayat suci Al Quran selama beberapa lama. Para pasukan Salib juga membangun pavilyun berkubah di sisi barat dan timur bangunan. Pavilyun barat saat ini berfungsi sebagai masjid untuk kaum wanita dan pavilyun timur berfungsi sebagai Museum Islam
Pada tahun 1187 M Shalahudin Al Ayyubi merebut kembali Yerusalem dengan damai tanpa ada pertumpahan darah atau pembantaian umat Kristen atau Yahudi. Hal yang pertama di lakukannya adalah mencopot lambang Salib di atas Dome of the Rock. Beliau kemudian mengumumkan untuk menjamin keselamatan dan kebebasan beribadah bagi semua umat Kristen dan Yahudi yang berada di wilayah Palestina/Yerusalem saat itu dan hidup berdampingan dengan damai dengan umat Muslim pada masa itu.
Setelah Shalahuddin Al-Ayyubi berhasil memimpin Pasukannya merebut kembali Yerusalem melalui pengepungan pada tahun 1187 M, beberapa perbaikan dilakukan atas Masjidil Aqsha. Nuruddin Zengi yang menjadi Sultan sebelum Shalahuddin, sebelumnya telah menugaskan pembangunan mimbar baru yang terbuat dari Gading dan kayu pada tahun 1168 M -- 1169 M, namun mimbar itu baru selesai setelah ia wafat. Mimbar Nuruddin telah ditambahkan oleh Shalahuddin ke masjid pada bulan November 1187 M. Penguasa Ayyubiyah di Damaskus, Sultan Al-Muazzam, pada tahun 1218 M membangun serambi utara masjid dengan tiga buah gerbang. Pada tahun 1345 M, penguasa Mamluk di bawah pemerintahan Al-Kamil Shaban menambahkan dua lengkungan dan dua gerbang pada bagian timur masjid. Selama di kuasai Mamluk, banyak terjadi pertentangan dengan tentara Salib dan suku Mongol dan terjadi beberapa kali gempa yang merusak bangunan Masjidil Aqsa.
Pada Tahun 1517 M, kekhalifahan Ustmaniyah menguasai wilayah ini, akan tetapi Masjidil Aqsha tidak mengalami perbaikan karena mereka melakukan perbaikan pada Al-Haram Asy-Syarif (Bukit Bait Suci) secara keseluruhan. Hal ini termasuk antara lain pembangunan Air Mancur Qasim Pasha (1527 M), dan pembangunan tiga kubah yang berdiri bebas. Kubah yang paling terkenal ialah Kubah Nabi, dibangun pada tahun 1538 M. Semua pembangunan adalah atas perintah para Gubernur Utsmaniyah di Yerusalem dan bukan atas perintah para Sultan. Karena sewaktu di kuasai Utsmaniyah, wilayah Palestina di pegang oleh seorang Gubernur yang ditugaskan langsung oleh Sultan Utsmaniyah. Walaupun demikian, para Sultan melakukan penambahan pada menara-menara yang telah ada.
