Le musée de la Mecque est situé sur un espace de 1200 mètres carrés, dans le quartier d'Umm al-Jawad, sur l'ancienne route qui conduisait de La Mecque à Djeddah, à côté des ateliers de tissage du rideau de la Kaaba.
Ce musée abrite certains objets retirés des sites sacrés et transférés dans le musée, dans sept sections, lors des travaux de rénovation ou de développement du sanctuaire.
Le rideau de la Kaaba a été pour la première fois, tissé de façon mécanisée dans une usine de La Mecque sur l'ordre du roi Abdulaziz.
La colonne la plus ancienne du musée de la Mecque est une des trois colonnes de l’intérieur de la Kaaba qui a échappé à l’incendie de La Kaaba lors de l'attaque de Yazid.
La pierre noire a été cassée plusieurs fois puis recollée et placée dans un récipient spécial sur le côté oriental de la Kaaba, à un mètre et demi de hauteur.