Di Indonesia, mayoritas masyarakatnya beragama Islam. Yang mana bisa langsung ditinjau problematika mengenai umat muslim akan lebih banyak dan beragam, sehingga pemerintah memiliki peran penting dalam membuat kebijakan demi mewujudkan negara hukum. Seperti contoh problem yang terjadi dalam Pengadilan Agama.
Dapat kita tarik sejarah ke belakang, sebelum terbentuknya KHI, terkait sumber hukum pengambilan putusan oleh Pengadilan Agama terjadi banyak disparitas putusan pengadilan.
Hal ini terjadi karena adanya banyak pertentangan hukum dalam kitab-kitab fiqih yang dijadikan pedoman oleh tiap hakim yang berbeda. Hal ini mengakibatkan asas kepastian hukum menjadi lemah.
Dengan demikian, untuk menyelesaikan persoalan tersebut, politik hukum Islam melalui kebijakan dan kesepakatan pemerintah yang berwenang, dibentuklah KHI.
Sebagai pemahaman, KHI atau Kompilasi Hukum Islam isinya memuat kumpulan dari hukum-hukum Islam yang bersumber dari kitab-kitab fiqih, yang mana membahas tentang permasalahan umat muslim, khususnya terkait perkawinan, kewarisan, dan perwakafan
Meskipun KHI digunakan sebagai sumber rujukan dalam Pengadilan Agama, namun KHI sendiri bukanlah suatu undang-undang ataupun kodifikasi hukum.
Hal ini mengingat dalam pembentukannya sendiri memang diperlukan / dibutuhkan dengan segera, sehingga dalam proses legislasi tidak bisa dijalankan secara formil sesuai Pasal 5 a (1) jo. Pasal 20 UUD 1945.
Legislasi KHI sendiri dilakukan melalui yurisprudensi oleh Mahkamah Agung dan Departemen Agama Republik Indonesia, yang mana kekuasaan hukumnya diperoleh dari Inpres No.1 tahun 1991, dan Inpres itu sifatnya tidak mengikat pada semua warga negara, sehingga hanya berlaku untuk orang-orang yang ditentukan dalam Inpres saja.
Penggunaan jalan pintas dalam pembuatan KHI ini, mengakibatkan cita-cita ingin membuat hukum positif dalam Kitab Undang-Undang Hukum Perdata Islam menjadi gagal dan hanya terwujud dalam bentuk kompilasi saja.
Mengingat dalam Pengadilan Agama meskipun sudah diakui secara konstitusional, namun masih belum memiliki kitab hukum perdata Islam yang bisa dijadikan rujukan. Dalam hal ini, memang sangat perlu dan dibutuhkan dalam sistem hukum Islam di Indonesia.
Sedangkan dalam pembentukan UU jika melalui jalur formil tidak bisa ditempuh dalam waktu singkat, prosesnya panjang, seperti halnya melalui perumusan RUU hingga pembahasan oleh DPR. Dengan latar belakang tersebut, ketua MA dan Menteri Agama sepakat untuk menyusun KHI saja.