Sampai saat ini,  Masjid Al Karomah pernah mengalami tiga kali renovasi besar. Uniknya, setiap dilakukan renovasi tersebut arsitektur masjid ini juga ikut dirubah. Terakhir, renovasi yang menelan dana sebesar 27 milyar dan diikuti penggantian nama masjid menjadi Masjid Agung Al Karomah ini hanya menyisakan soko guru, beberapa meter lantai yang sekarang dipasang kaca tebal, kotak amal kuno  dan mimbar dari masjid yang asli.
Arsitektur baru Masjid Agung Al-Karomah mengadopsi gaya masjid-masjid modern di timur tengah dengan kubah-kubah berbentuk sepeti bawang berlapis enamel berwarna dominan biru dan hijau dengan pola simetris yang sangat indah sebanyak 7 (tujuh) buah,  3 (tiga) kubah utama pada bagian tengah bangunan dan 4 (empat) kubah yang lebih kecil di setiap sudut bangunan utamanya. Â
Dominasi arsitektur modern Islam ala timur tengah yang diadopsi Masjid  Agung Al-Karomah juga tampak pada model gapura berwarna krem dengan pintu masuk berbentuk setengah lingkaran untuk menuju ke  halaman utama masjid yang bisa diakses dari Jalan nasional paling panjang dan paling populer di Kalimantan Selatan, Jalan Ahmad Yani.Â
Selain itu, masjid yang terletak persis di jantung kota yang dijuga dikelilingi pusat-pusat aktifitas sosial masyarakat Kota Martapura, seperti pasar, alun-alun dan juga kantor-kantor pemerintahan ini juga mempunyai menara bergaya modern yang tidak kalah cantiknya dan juga stasiun radio dakwah yang tetap eksis di tengah gempuran media online.Â
Uniknya Situs Masjid Di Dalam Masjid
Salah satu sisi unik dari Masjid Agung Al Karomah di Kota Martapura ini adalah teknik arsitektur dan juga penataan interior bagian dalam masjidnya yang bisa memadu padankan dengan cerdas arsitektur masjid lama yang terbangun dari struktur kayu ulin (Eusideroxylon zwageri) yang tetap dihidupkan secara utuh meskipun tanpa dinding dengan aksitektur modern yang begitu megah dan berkelas khas timur tengah, sehingga seolah-olah kita seperti melihat ada bangunan masjid tua dari kayu ulin didalam masjid megah berstruktur beton yang konon bisa menampung sebanyak 21.000 jamaah ini. Wooow keren kan?
Baca Juga : Â Masjid Sabilal Muhtadin, Ruang Dialektika Budaya Kalimantan
Struktur bangunan masjid lama yang menggunakan kayu ulin (Eusideroxylon zwageri) bisa dilihat dari 4 (empat) tiang soskoguru yang masih tegak berdiri menopang Langit-langit yang juga berbahan kayu ulin dengan model kuno yang tepat di bagian tengahnya terpasang chandeliers bergaya tidak kalah klasiknya, sangat kontras dengan pilar-pilar beton besar yang mengelilinginnya.
Bergeser sedikit kedepan dari struktur bangunan lama di tengah bagian masjid, kita akan berdiri tepat dibawah kubah utama Masjid Agung Al Karomah yang sangat besar berwarna biru langit. Jika beruntung, bertepatan dengan pembersihan masjid atau karpet masjid di gulung untuk diganti yang baru, di lokasi ini kita bisa mendapati lantai berlapis kaca tempat imam dari bangunan masjid yang sengaja didesain sebagai "monumen" dalam masjid.
Di bagian atas, kita akan mendapati cekungan kubah utama yang begitu besar berwarna biru langit yang bagian tengahnya terpasang chandeliers. Saking besarnya, di sekeliling kubah terdapat 16 (enam belas) tiang beton penyangga yang berfungsi sebagai penopang beratnya. Selain, tiang beton untuk penopang kubah utama, di dalam masjid ini juga terdapat banyak sekali struktur tiang penopang yang tersebar di seluruh ruangan masjid.
