Ibrahim a.s bersama istrinya, Sarah, mengembara dari kota Iraq menuju Syam kemudian ke Mesir. Dalam perjalanannya, ia selalu mengajarkan agama. Waktu terus berjalan. Ibrahim semakin berusia lanjut, namun Sarah tak kunjung mengandung.
Ia merasa dirinya mandul, iapun meminta Ibrahim agar menikahi pelayannya yang bernama Hajar, dengan harapan agar Allah mengaruniakan darinya seorang putra yang saleh. Allah mengabulkan harapan itu. Ibrahim memberi nama putranya, Ismail.
Sarah cemburu terhadap Hajar. Ibrahim membawa Hajar dan Ismail yang masih menyusu itu ke suatu tempat yang di tempat itulah kelak berdirinya Ka'bah. Ia berhenti di dekat sebatang pohon besar yang berada di atas sumur zamzam. Mekah saat itu gersang, tak berpenghuni dan tidak ada air.
Ibrahim meninggalkan sekantong kurma dan sekantong air di dekat Hajar, kemudian berbalik ke arah mereka datang. Hajar terheran melihat itu. Ia bertanya kepada Ibrahim, "Akan kemana engkau pergi? Mengapa meninggalkan kami di lembah yang tak ada apa-apanya ini?"
Ibrahim tak menjawabnya. Hajar bertanya lagi, "Apakah Allah yang memerintahkanmu untuk melakukan ini? Ibrahim menjawab, "Benar!" Mendengar jawaban tersebut, Hajar berkata, "Kalau begitu, Allah pasti tidak akan menelantarkan kami."
Iapun kembali ke tempatnya semula. Ibrahim terus berjalan hingga sampai di sebuah tempat yang tak terlihat oleh Hajar. Ia berhenti lalu menghadapkan wajahnya ke arah Ka'bah seraya berdoa,
"Ya Tuhan kami, sesungguhnya aku telah menempatkan sebagian keturunanku di lembah yang tidak mempunyai tanam-tanaman di dekat rumah Engkau (Baitullah) yang dihormati. Ya Tuhan kami, (yang demikian itu) agar mereka mendirikan shalat. Maka jadikanlah hati sebagian manusia cenderung kepada mereka dan beri rejekilah mereka dari buah-buahan, mudah-mudahan mereka bersyukur (QS. Ibrahim: 37)
Air yang ditinggalkan Ibrahim habis. Hajar dan Ismail kehausan. Hajar sedih melihat bayinya menangis. Ia bergegas bangkit mencari air hingga ke puncak bukit shafa. Lalu ia berbalik ke arah lembah di bawahnya untuk melihat apakah ada orang. Namun tak dijumpainya seorangpun.
Hajar turun dari bukit shafa dan berlari-lari kecil sampai ke atas bukit marwa. Ia bolak-balik hingga tujuh kali putaran. Pada akhir putaran ketujuh, malaikat Jibril menggali mata air zamzam dengan tumitnya atau sayapnya. Beberapa saat kemudian, air memancar. Hajar segera membendung pancaran air dan mewadahinya dengan kantong airnya.
Beberapa waktu setelah kejadian itu, sekelompok orang dari kabilah Jurhum al-Yamaniyah al-Qahthaniyah melintas dan melihat mata air tersebut. Mereka pun meminta izin kepada Hajar agar diperbolehkan tinggal di daerah itu.
