كانت الكعبة وهي المسجد الحرام أوّل بيتٍ وضع للنّاس في الأرض، وقد قيل أنّ الملائكة هي التي بنت هذا البيت بأمر الله تعالى وقيل أنّ آدم هو أوّل من بنى البيت الحرام، وقد ذهبت آثار البيت الحرام وأركانه بعد حدوث الطّوفان الذي غمر الأرض في أيّام سيّدنا نوح عليه السّلام.
وفي أيّام سيّدنا إبراهيم عليه السّلام وابنه اسماعيل وبعد أن أعلمهما الله تعالى بمكان البيت أمرهما أن يرفعا قواعده من جديد، إذ أنّ البيت الحرام موجودٌ من قبل حين بنته الملائكة، ولكنّ البناء ذهب وبقيت أساسات البيت ليعتمد عليها ابراهيم واسماعيل عليهما السّلام في بنائه من جديد، وقد قاما بتطهيره ليكون مكانًا للعبادة والطّواف وأداء المناسك تقربًا لله تعالى.
ثمّ بعد ذلك وقبل ما يقارب ثلاثين عامًا قبل عام الفيل دخلت إمراة من قريش إلى الكعبة لتقوم بتبخيرها فسقطت المبخرة منها من غير قصد لتقوم بإحراق أجزاءٍ كبيرةٍ من الكعبة ثمّ ليأتي سيلٌ عرم ليجرف تلك الأجزاء المهدّمة من البيت، فقرّرت قريش إعادة بناء الكعبة وعزمت على أن يكون البناء من مالهم وكسبهم الطّيب، فصرفوا من أموالهم في بناء البيت حتّى نفذت وقصرت بهم عن بناء البيت في ركنٍ من أركانه، وقد حدث يومها خلافٌ بينهم على من يحمل الحجر الأسود ليدخله في الكعبة، فقرّروا أن يحكّموا أوّل رجلٍ منهم يخرج من سكّة معيّنة فكان هذا الرّجل هو نبيّنا محمّد عليه الصّلاة والسّلام فاشار إليهم أن يضعوا كساءً ويحملوا عليه الحجر الأسود ثمّ يمسك كلّ زعيم قبيلة منهم بطرفٍ من هذا الكساء حتّى يدخلوه في البيت وقد حدث ذلك وتمّ البناء.
وعندما حصل الخلاف بين المسلمين أيّام يزيد بن معاوية ورفض عبد الله بن الزبير مبايعته بعث إليه يزيد بجيشٍ حاصر الكعبة ورماها بالمنجنيق واحترقت، وعندما أصبح عبد الله بن الزبير مسؤولًا عن الحجاز عام 65 هجرية أمر بإعادة بناء الكعبة على قواعد إبراهيم الأولى وقد كان النّبي يأمل بناءها على تلك القواعد ولكن خشي الفتنة في قريش، ليعود عبد الملك بن مروان الخليفة الأموي وحين هزم عبد الله بن الزبير بإعادة بنائها على ما كانت عليه من قبل.
وقد حدثت توسعة للحرم المكي في عهد الوليد بن عبد الملك عام 91 هجرية، وفي عام 1630 هجري أمر السّلطان مراد بإعادة ترميم البيت وفرشه لتبقى صورة هذا البناء حتّى عصرنا الحاضر.