bermula saat pelaksanaan Musabaqoh Tilawatil Quran (MTQ ) ke 5 tahun 1972 di Jakarta, yang dinilai sukses oleh Pemerintah pusat baik dalam segi pelaksanaan maupun gebyar acaranya, Panitia MTQ bersama dengan Gubernur DKI Jakarta H. Ali Sadikin berkeinginan untuk membuat sebuah proyek moumental sebagai peninggalan dari sukses acara MTQ tersebut kebetulan salah satunya adalah program dinamisasi madrasah yang kebetulan saat itu kondisi pendidikan di madrasah khususnya di Jakarta sangat tertinggal dengan pendidikan sekolah umum lainnya, sehingga ide ini dijadikan landasan awal bagi terbentuk Yayasan Pondok Karya Pembangunan (PKP) DKI Jakarta, gagasan yang dirumuskan oleh para pendiri yayasan yang tercatat 5 orang I. Letjen Sudirman 2. Letjen Mar Ali Sadikin, 3 Laksda dr Sukmadi 4. Kafrawi Ridwan 5. AM. Fatwa.
kelima tokoh tersebut merumuskan visi dan misi yayasan dengan membentuk lembaga pendidikan Pondok Karya Pembangunan (PKP), utamanya bagaimana memajukan sekolah berbasis madrasah dan pondok agar bisa berkarya dan berkiprah dalam pembangunan nasional, dengan menggunakan sisa anggran MTQ sebesar Rp 5 juta dan anggaran dari BAZIZ DKI Jakarta yayasan PKP mendapatkan tanah seluas 18 hektar dan membangun 2 unit pendidikan Madrsaah Tsanawiyah (MTs) dan Madrasah Ibtidaiyah (MI) disamping menyelenggrakan pendidikan formal juga disediakan bengkel pelatihan buat guru-guru madrasah agar mempunyai keterampilan selain mengajar. Pada 8 April 1976, Gubernur DKI Jakarta, Ali Sadikin meresmikan penggunaan lahan dan gedung di kampus PKP DKI Jakarta, tanggal tersebut sekaligus dijadikan sebagai Milad PKP
seiring dengan dinamika waktu dan perubahan sosial kampus PKP DKI Jakarta sebagai proyek monumental umat, mengalami perencanaan atau penataan ulang dibawah kepemimpinan Ir Tb M Rais  yang berhasil meyakinkan Gubernur Sutiyoso untuk membangun kembali pembangunan dan penataan lingkungan kampus, yang pertama sebagai kampus penyelenggra pendidkan dari mulai tingkat dasar dan tinggi ada penambahan kalimat JAKARTA ISLAMIC SCHOOL (JIS) dengan penambahan kalimat ini nama PKP bisa lebih diterima di masyarakat dengan terus bertambahnya siswa baru.
Pemprov DKI bahkan membangun 2 tower asrama satu untuk putra dengan kapasitas 1000 santri dan satu asrama putri dengan kapasitas 800 santri sehingga pada tahun 2018 Yayasan membuka program pesantren dengan menitik beratkan pada kemampuan bahasa dan kajian kitab-kitab kuning semoga degann adanya pesantren ini yayasan PKP bertambah maju dan diminati masyarakat semoga amin
