Kata Zam-zam dalam bahasa Arab bermakna “Berkumpullah berkumpullah.” Bermula dari kejadian dimana istri Nabi Ibrahim ‘alaihis salaam bersama putranya yang masih menyusu, pada suatu hari mengalami haus yang sangat dan sudah kehabisan air. Maka sang ibu pun mencari air dengan berjalan antara bukit Shafa dan Marwa sebanyak tujuh kali.

Bingung tidak kunjung menemukan air yang ia cari, sang ibu pun kembali ke tempat dimana ia letakkan bayinya yang menangis. Dengan kuasa Allah, bayi yang ditinggalkan itu ia dapati sedang menghentakkan kakinya ke tanah, yang darinya keluar mata air yang segar.

Demikianlah secara ringkas bagaimana awal mula terbentuknya sumber air Zam-zam yang sekarang dikenal sebagai Sumur Zam-zam.