Setelah penciptaan Adam as dan penurunanya dari surga ke muka bumi yang mana kisah ini telah diabadikan dalam Al-Qur’an, pertama tama yang dilakukan Adam sesampainya di bumi, adalah merenofasi Baitullah yang telah dibangun oleh para malaikat. Adam adalah manusia pertama yang melakukan shalat dan thawaf di sana. Hal ini dilakukan terus-menerus oleh Adam as hingga ia wafat. Setelah wafatnya Adam as, yang memakmurkan dan membangun Baitullah atau Ka’bah adalah Nabi Syits, anak laki-laki Nabi Adam. Bangunan ketika itu terdiri dari tanah dan batu, dan bangunan tersebut dapat bertahan sampai Nabi Nuh as. Ketika topan dan tsunami besar melanda pada masa Nabi Nuh as, Ka’bah pun roboh dan hancur, yang tersisa hanya fondasi dasarnya. Hal itu terjadi sampai pada generasi ketiga dan menurut ahli sejarah, tidak dijumpai keterangan di dalam Alquran dan hadits-hadits Shahih.
Ka’bah Dan Nabi Ibrahim as
Adapun generasi berikutnya yang merenofasi Ka’bah adalah Nabi Ibrahim as dan putranya Ismail as. Setelah Nabi Ibrahim as meninggalkan istrinya Hajar dan puteranya di Makkah, dia pernah berkunjung untuk mengetahui keadaan mereka. Saat Ismail mulai dewasa, Ibrahim sering menjenguknya dari Palestina. Suatu hari, Nabi Ismail diajak berdialog oleh Nabi Ibrahim, “Sesungguhnya Allah telah menyuruhku untuk melakukan sebuah pekerjaan”. Ismail kemudian menyahut dengan kalimat, “Laksanakanlah apa yang telah diperintahkan Allah”.  “Apakah engkau mau membantunya?” tanya Nabi Ibrahim. Ismail menjawab, “Aku siap untuk membantu”.  “Sesungguhnya Allah telah memerintahkan aku untuk membangun rumah di sini”,  tutur Ibrahim sambil menunjuk ke arah sebuah lemab yang kini menjadi Masjidil Haram.
Dikisahkan oleh Imam Thabari, Nabi Ibrahim as telah dibantu malaikat Jibril di saat merenofasi Ka’bah. Ibrahim as bertanya kepada Jibril, “Apakah di tempat ini aku diperintahkan membangun rumah Allah itu?”. Kemudian Jibril menjawab, “Benar di tempat itu!”. Setelah itu, fondasi yang pernah dibangun Nabi Adam as yang merupakan petunjuk Allah lewat malaikat-Nya kembali ditemukan Nabi Ibrahim setelah berabad-abad lamanya tidak terpelihara, bahkan telah menjadi tandus dan tidak ada tanda-tanda kewujudan Ka’bah. Nabi Ibrahim as dan Ismail as akhirnya membangun sebuah rumah di atas fondasi tersebut. Tetkala dinding Ka’bah mulai tinggi, Nabi Ibrahim as mengambil batu (yang sekarang terkenal dengan nama Maqam Ibrahim), lalu meletakanya dan ia berdiri di atas batu tersebut untuk memasang batu di bagian atas, dan Ismail as memberikan batu dari bawah.
Ketika Nabi Ibrahim dan Ismail as sampai pada penyelesaian akhir dari sudut (rukun) bangunan Baitullah, dan hanya tinggal satu sudut atau rukun lagi belum tertutup, Nabi Ibrahim kemudian berkata: “Wahai anakku, ambillah satu batu yang memberikan daya tarik bagi manusia”. Kemudian Ismail memberikan sebuah batu. Ibrahim berkata “Bukan batu seperti itu yang aku maksud”.  Ismail pun mencari lagi batu-batu yang istimewa seperti yang dipinta ayahnya. Saat Ismail sudah membawa batu temuannya, ternyata Nabi Ibrahim as sudah menempelkan di bagian sudut atau rukun itu sebuah batu yang datang dari surga. Ismail as bertanya kepada ayahnya: “Wahai ayahku, siapakah gerangan memberikan batu itu kepadamu?”.  Ibrahim kemudian menjawab, “Telah datang kepadaku Malaikat dari langit memberikan batu itu dari surga”.  Batu itulah kemudian dikenal dengan Hajar Aswad yang posisinya tepat di sudut (rukun) dekat pintu Ka’bah. Begitu selesai, Nabi Ibrahim as berdoa:

رَبَّنَا تَقَبَّلْ مِنَّآ إِنَّكَ أَنتَ السَّمِيعُ الْعَلِيمُ

”Ya Tuhan kami, terimalah amalan kami. Sesungguhnya Engkaulah Yang Maha Mendengar lagi Maha Mengetahui’ (al-baqarah: 127)
Kemudian Nabi Ibrahim as  membuat pintu Ka’bah sejajar dengan tanah dan tidak dibuatkan daun pintunya. Pintu Ka’bah baru dibuat oleh Tuba Al-Humairi, seorang penguasa dari Yaman, dan pintunya ditinggikan dari tanah. Selain bangunan kotak Ka’bah yang berbentuk kubus, telah dibentuk pula batu melingkar yang tidak ada rukun-nya atau sisinya. Batu melingkar inilah yang disebut Hijir Ismail. Ada yang meriwayatkan bahwa Nabi Ibrahim as membangun Baitullah ini dalam usianya yang ke-100 tahun. Wallahu a’lam.