Secara historis madani merupakan terminologi dari “civil society” yang diartikan dari bahasa latin yaitu “civilis societas”, yang pada saat itu digunakan oleh Cicero pada (106-43 SM). Cicero merupakan orator sekaligus pujangga Roma yang hidup di abad pertama. Di abad ke 18 Eropa Barat telah menggunakan istilah “civil society” sebagai budaya perorangan dan kemasyarakatan yang berlanjut sampai abad ke 19. Kemudian cukup waktu lama istilah itu hilang dan muncul kembali di Eropa Barat pada tahun 1990-an.
Di Indonesia sendiri civil society diartikan sebagai masayarakat sipil, kewarganegaraan atau masyarakat madani. Konsep civil society di Indonesia ini dipakai oleh Mansour Fakih, Menurutnya istilah tersebut mengimplikasikan bahwa makna masayarakat sipil sebagai lawan masyarakat militer. Namun hal ini memiliki kecurigaan, bahwa istilah sipil terkesan merupakan tandingan militer yang secara konseptual sipil itu sendiri merupakan mitra kerja dari militer diberbagai sektor.
Dalam paradigma sosial politik Islam, ada dua kata kunci dari konsep masyarakat madani atau civil society ini, yaitu kata “ummah” dan “madinah”. Kata ummah dalam al-Quran menunjukkan bahwa suatu komunitas memiliki basis solidaritas tertentu atas dasar komitmen etnis, moralitas dan keagamaan. Dalam al-Quran sering terdapat kata ummat wahidah, khairu ummat dan ummat wasatha.
Civil society dalam perspektif sejarah, kata ummah merupakan kata yang dibangun oleh Rasul di Madinah, kata itu dimaksudkan agar para kaum pemeluk islam memiliki solidaritas terhadap kaum lainnya, antara lain Kaum Muhajirin dan Kaum Anshar. Menurut peneliti kata ummah menunjukkan konotasi sosial bukan konotasi politik. Konsep ummah ini diperuntukkan bagi kaum Muhajirin sebagai sistem sosial alternatif yang bersifat kultural dan kesukuan.
Jika dibahas dari al-Quran pengertian ummah dimulai dari interpretasi “ummah wahidah” merupakan suatu umat yang bersatu berdasarkan imannya kepada Allah dan mengikuti nilai nilai keislaman. Pengertian kedua “ummah wasatha” adalah ummat moderat, yang artinya posisi ditengah tengah dan tidak memihak kesiapapun, tersebut memberlakukan bersikap adil antar manusia. Pengertian ketiga “khairu ummah” adalah bentuk masyarakat islam yang ideal dalam komitmen kontributif positif kepada kemanusiaan.
Suatu negara harus tumbuh dari masyarakat madani, karena Negara tanpa masyarakat madani yang kuat membuat negara menjadi lemah. Hal itu dibuktikan dengan karakteristik masyarakat madani, yaitu: pertama, masyarakat memiliki keyakinan dan beriman terhadap Tuhan Yang Maha Esa dan bisa menghargai perbedaan agama masing-masing.
Kedua, masyarakat demokratif yang bisa menghargai perbedaan pendapat. Ketiga, masyarakat yang bisa menghargai hak asasi manusia, bermusyawarah, mengeluarkan pendapat, perlindungan kukum yang adil, dll. Keempat, masyarakat yang sadar akan hukum yang sudah ditetapkan. Kelima, masyarakat yang bisa percaya diri, kreatif dan kuat pada penguasaan teknologi maupun ilmu pengetahuan. Keenam, masyarakat yang memiliki semangat kompetitif dalam suasana kooperatif.
Keenam karakteristik di atas merupakan konsep masyarakat madani yang diterapkan oleh Rasul di Kota Madinah. Hal itu ditegaskan oleh Rasul dalam hadisnya “tak ada satupun masyarakat di dunia yang ideal atau sebaik apapun kecuali pada masaku”. Dalam al-Quran memerintahkan umat manusia untuk memiliki kualitasnya dalam bentuk masyarakat idelnya menurut petunjuk al-Quran. Hal ini menunjukkan arti masyarakat madani dengan istilah umat wasatha, ummat wahidah dan khairu ummah.
Menurut Ardinis Arbain dalam bukunya yang berjudul “Masyarakat madani dalam perspektif Sejarah” menjelaskan bahwa masyarakat madani merupakan masyarakat ideal yang berperadaban, berpola budaya dan bermental kota. Kedua, merupakan sebuah konsep masyarakat yang selalu mengalami evolusi, maksudnya ialah dapat berkembang dan musnah, tergantung pada adaptasi itu terhadap persoalan kemanusiaan.
Dalam buku Masyarakat Madani yang ditulis oleh M. Dawam Rahardjo menyimpulkan bahwa masyarakat madani haris memiliki instuisi yang kuat, kekuatan politik, budaya kota dan tatanan hukum yang baik. Kedua, masyarakat madani harus memiliki karakteristis sendiri, filosofinya dan teologis.
Dalam buku Paradigma Pendidikan Islam Dalam Membangun Masyarakat Madani Indonesia yang ditulis oleh Hjair AH. Sanaky menyimpulkan bahwa pada era reformasi masyarakat madani mengalami perubahan pada aspek filosofis, visi dan misi, tujuan, metodologi dan kemanajemenan. Kedua, dalam menentukan arah isi dan motivasi harus dirumuskan melalui pendidikan Islam secara tepat dan jelas.
