Masyarakat madani dapat diartikan sebagai masyarakat beradab yang membangun, menghayati dan memberi arti bagi kehidupannya. Masyarakat madani terwujud ketika suatu masyarakat telah menerapkan prinsip-prinsip demokrasi dengan baik. Al-Qur'an menyatakan tentang orang-orang terbaik yang membentuk peradaban manusia yang lebih manusiawi dan toleran, yaitu: "Kamu adalah umat terbaik yang lahir dari umat manusia, memerintahkan yang baik dan melarang yang salah dan beriman kepada Allah, Sebuah buku akan percaya . Itu lebih baik baginya; Di antara mereka ada orang-orang yang beriman, dan kebanyakan dari mereka adalahorang-orang jahat."(QsAliImran[3]:110).
Ungkapan "Masyarakat Madani" merupakan terjemahan atau islamisasi dari ungkapan "masyarakat madani" untuk melaksanakan Piagam Madinah. Masyarakat Madinah dianggap sebagai legitimasi historis bagi perkembangan masyarakat madani dalam masyarakat Islam modern.
Sejarah Masyarakat Madani dalam Peradaban Islam ada dua Masyarakat Madani dalam sejara yang   terdokumentasi sebagai Masyarakat Madani, yaitu:
1.Masyarakat Sheba', yaitu pada zaman nabi Sulaiman. Allah SWT memberikan gambaran masyarakat madani dalam firman-Nya dalam Q.S. Saba' ayat 15:"Sungguh, bagi penduduk Sheba akan ada tanda (kekuasaan Allah) di tempat tinggal mereka, yaitu dua taman di kanan dan di kiri. (Diberitahukan kepada mereka):"Makanlah makanan yang (disediakan) Tuhanmu dan bersyukurlah kepada-Nya. (Negaramu) adalah negara yang baik dan (Tuhanmu) adalah Tuhan Yang Maha Pengampun."
2.Penduduk Madinah setelah berlakunya perjanjian, Perjanjian Madinah antara Rasulullah SAW dan umat Islam dengan penduduk Madinah yang beragama Yahudi dan Watsan dari penduduk Aus dan Khazraj. Kesepakatan Madinah meliputi kesepakatan tiga elemen masyarakat untuk saling membantu, mewujudkan perdamaian dalam kehidupan bermasyarakat, membuat konstitusi Al-Qur'a, menjadikan Rasulullah SAW sebagai pemimpin yang patuh sepenuhnya pada keputusan dan kebebasan yang diberikannya. sehingga penduduknya dapat mengadopsi agama mereka dan beribadah seperti yang mereka inginkan. dengan ajaran agamanya.
Secara historis, lebih mudah bagi kita untuk merujuk langsung pada "masyarakat" Ibnu-Khaldun. Padahal, gambaran sosial tersebut banyak mengandung muatan moral-spiritual dan menggunakan agama sebagai dasar analisisnya. Padahal, masyarakat sipil bukan hanya masyarakat sipil. Masyarakat sipil mengacu pada masyarakat beragama dan negara, sedangkan masyarakat sipil mengacu pada komponen di luar negara.
Konsep yang tergabung dalam masyarakat sipil Indonesia ini merupakan terjemahan konseptual dari konsep masyarakat sipil yang pertama kali disampaikan oleh Dato Seri Anwar Ibrahim dalam ceramahnya pada Simposium Nasional dalam Forum Ilmiah Festival Istiqlal. 26 September 1995 di Jakarta(Hamim,2000:115). Juga dikembangkan oleh Nurcholis Madjid di Indonesia. Konsep yang dikemukakan oleh Anwar Ibrahim bertujuan untuk menunjukkan bahwa masyarakat yang ideal adalah sekelompok manusia dengan peradaban yang maju. Anwar Ibrahim lebih jelas menyatakan bahwa masyarakat sipil berarti sistem sosial yang subur berdasarkan prinsip-prinsip moral yang menjamin keseimbangan antara kebebasan individu dan stabilitas sosial. Ungkapan tersebut diterjemahkan dari bahasa Arab mujtama'madani, diperkenalkan oleh Naquib al-Attas, seorang Malaysia ahli sejarah dan peradaban Islam,pendiriISTAC(Ismail,2000:180-181). Kata "madani" berarti beradab atau dibudidayakan. Madani juga berarti peradaban, seperti kata-kata Arab lainnya seperti hadlari, tsaqafi atau tamaddun. Istilah bahasa arab kesantunan mengacu pada cita-cita dalam masyarakat. Lebih lanjut, Alwi Shihab menjelaskan, umat Islam awal menjadi "Khairu Ummah" karena melakukan Amar Ma'ruf sesuai petunjuk Allah dan Rasul-Nya.
Masyarakat sipil memiliki beberapa karakteristik, antara lain:
1. Ketuhanan, yaitu gereja adalah masyarakat religius yang mengakui keberadaan Tuhan dan menjadikan hukum Ilahi sebagai dasar pengaturan kehidupan sosial.
2. Integrasi eksklusif individu dan kelompok ke dalam masyarakat melalui kontrak sosial dan aliansi sosial.
3. Pembagian kekuasaan sedemikian rupa sehingga kepentingan masyarakat yang dominan dapat direduksi oleh kekuatan-kekuatan alternatif.
