Perkembangan agama Islam di Nusantara telah mempengaruhi berbagai bidang kehidupan, salah satunya adalah bidang arsitektur Islam. Arsitektur Islam adalah cabang seni rupa yang berkembang sejak abad pertama Hijriyah di Arab, Syiria, dan Iraq dan pengaruhnya makin meluas dan berkembang sejak zaman pemerintahan Dinasti Umayyah, di mana setiap daerah kekuasaanya banyak mendirikan bangunan-bangunan megah. Salah satu bentuk arsitektur Islam Nusantara adalah bangunan masjid, namun arsitektur Masjid Nusantara telah mengalami alkuturasi antara budaya Islam dengan budaya lokal, yaitu Hindu. Sedangkan menurut G.F.Pijper, Masjid di Indonesia memiliki karakter dan ciri khusus, yaitu: berdenah persegi; Memiliki tembok keliling dengan satu pintu utama; Mempuyai serambi di depan atau di samping ruang utama, Mempunyai mihrab; Beratap tumpang, terletak di sebelah barat alun alun; arah mihrab tidak tepat menghadap ke arah kiblat; pada awalnya tidak memiliki serambi; dan merupakan bangunan berkolong. Bangunan masjid dengan bentuk alkuturasi tersebut dapat dilihat pada arsitektur Masjid al-Ma'mur Dayu yang dibangun oleh H. Nur Salim pada tahun 1900. Bangunan masjid al-Ma'mur saat itu masih sangat sederhana dengan bentuk dasar persegi. Dindingnya terbuat dari gedek dan lantai yang masih beralaskan tanah. Seperti kebanyakan masjid-masjid tua di Nusantara, bentuk atap masjid al-Ma'mur Dayu juga menggunakan atap tumpang tiga.
Masjid al-Ma'mur Dayu pernah mengalami perombakan sebanyak empat kali. Perombakan terakhir pada tahun 2006 dengan merubah seluruh elemen bahan yang awalnya keseluruhan menggunakan bahan alami seperti kayu, bambu dan dedauan diganti dengan batubata, semen, dan beberapa pondasi kayu yang tetap sama. Dari segi warna, awalnya berwarna coklat sesuai dengan bahan dasar yang terbuat dari kayu. Kemudian diganti dengan perpaduan setengah cat tembok warna putih dan setengah keramik warna cream serta terdapat warna emas untuk bagian dalamnya. Sedangkan untuk bagian luar setengah cat tembok berwana hijau muda setengahnya lagi keramik warna coklat. Serta adanya atribut modern seperti beduk gaya modern, lampu hias, jam didnding kuno, jam elektronik, kipas angin, sajadah karpet, spiker dan mic, sehingga masjid tersebut kelihatan lebih megah. Namun aspek arsitektur kuno Indonesia masih dapat dilihat dari empat tiang penyangga, atap tumpang dua, dan pintu masuk bagian wanita. Arsitektur kuno Masjid tersebut memiiki makna yang tersirat, sebagai berikut:
a. Atap
bentuk atap masjid al-Ma'mur Dayu adalah tumpang dua yang bermakna sebagai dua kalimat syahadat atau juga bisa dimaknai sebagai kehidupan yang dijalani manusia. Dimana hidup di dunia di simbolkan dengan atap yang dibawah dan kehidupan akhirat di simbolkan dengan atap yang diatas. Selain itu terdapat tambahan kubah kecil berbahan besi yang diatasnya terdapat kalimat Allah dalam lingkaran.
b. Tiang Penyangga
Dari awal mula berdiri sampai sekarang tiang penyangga masjid al-Ma'mur Dayu tetap berjumlah emapat tiang. Empat tiang tersebut biasa disebut dengann soko guru, soko artinya tiang penyangga dan guru artinya pedoman atau panutan. Soko guru mengandung makna simbolis 4 sumber kehidupan manusia, yaitu air, tanah, api, dan angin. Keempat unsur itu merupakan unsur badaniah yang mempengaruhi hidup manusia. Selain itu, empat unsur tersebut juga bersifat kejiwaan, yakni empat jenis nafsu yang menguasai jiwa manusia. Keempat nafsu itu dilambangkan dalam empat warna, yaitu merah, hitam, kuning, dan putih. (merah artinya amarah, hitam artinya nafsu badaniah, kuning aertinya nafsu berkuasa, dan putih artinya kesucian).
Tiang penyangga masjid al-Ma'mur Dayu berasal dari kayu jati di desa Dayu sendiri. Tiang penyangga tersebut berbentuk sederhana tanpa ada ragam hiasan dan hanya diberi pilitur. Menurut Kiyai Ma'sum, Tiang penyangga itu memiliki hal mistis, pernah dibuktikan pada tahun 2006, masjid tersebut awalnya akan dirombak secara keseluruhan, namun pada saat akan menindahkan tiang penyangga tersebut sangat sulit dipinndah. Dan pada malam harinya Kiyai Ma'sum didatangi oleh Alm. Kiyai Ma'sum dan mengatakan bahwa di dalam tiang penyangga tersebut bersemayam seorang Jin Islam, yang dipercaya dapat membawa berkah atau aura positif sehingga akan banyak orang yang datang untuuk beribadah di Masjid tersebut.
c. Ornamen Hias
Diterimanya ajaran Islam sebagai penuntun hidup yang baru di Jawa, melahirkan beberapa ragam hias baru, yaitu kaligrafi dan penggayaan terhadap ragam hias. Banyak ragam hias yang dihasilkan atau diperkaya oleh peradaban Islam. Namun, jika dipilah-pilah maka secara garis besar hanya ada beberapa jenis ragam hias Islam, yaitu: huruf kaligrafi; motif geometris; motif tumbuhan; dan motif alam. Dalam masjid al-Ma'mur Dayu hanya ditemunan ornamen hias motif geomertis dan motif tumbuhan di pintu masuk tempat sholat jama'ah wanita. Pintu tersebut merupakan pintu yang sudah ada sejak awal berdiri.
