Bahá’u’lláh et ses disciples qui le suivirent dans son exil s'arrêtèrent brièvement à Haïfa le 31 août 1868 en route vers la ville prison de Saint-Jean-d’Acre, située de l'autre côté de la baie. La ville de Haïfa était alors située au pied du mont Carmel.
Après la libération de Bahá’u’lláh de la ville prison de Saint-Jean-d’Acre, il se rendit trois fois à Haïfa : en 1883, 1890 et 1891. Lors de la dernière visite, qui dura plusieurs mois, Bahá’u’lláh désigna l'emplacement sur le versant nord du mont Carmel où se situerait le mausolée du Báb. ‘Abdu’l-Bahá organisa la construction du mausolée alors qu'il résidait toujours à Saint-Jean-d’Acre. En 1909, il inhuma les restes du Báb dans leur lieu de repos définitif.
Le mausolée du Báb fut construit sous la supervision de ‘Abdu’l-Bahá et comprenait à l’origine six pièces. Shoghi Effendi ajouta trois autres pièces sur le côté sud du bâtiment pour former un carré, avec le tombeau du Báb situé sous la pièce centrale.
‘Abdu’l-Bahá avait prévu qu'une superstructure plus élaborée serait un jour construite pour le mausolée du Báb. En 1942, Shoghi Effendi demanda à l'architecte canadien de renom William Sutherland Maxwell de commencer à travailler à sa conception. La forme finale fut approuvée en 1944.
La construction de la superstructure du mausolée du Báb qui débuta en 1947 se fit par étapes. La première étape, qui fut achevée en mai 1950, consistait en la construction d'une arcade soutenue par des colonnes entourant l'édifice original et surmontée d'une balustrade.
Après l'achèvement de l'arcade soutenue par des colonnes commencèrent les travaux d'un octogone central, percé de fenêtres et surmonté d'une seconde balustrade avec à chaque coin des pinacles en forme de minarets. Une galerie à claire-voie de 11 mètres de haut comprenant dix-huit fenêtres en ogive fut ensuite érigée. La superstructure fut couronnée d'un dôme recouvert de tuiles dorées surmonté d'une lanterne et d'un épi de faîtage.
La superstructure du mausolée du Báb fut achevée en septembre 1953. Un mois plus tard, Shoghi Effendi écrivit : « Un flot constant et croissant de visiteurs venus de partout, souvent supérieur à mille personnes par jour, afflue vers les portes conduisant au sanctuaire intérieur de ce majestueux mausolée ; rendant hommage à la Reine du Carmel, trônant sur la montagne de Dieu, couronnée d'or scintillant, vêtue de blanc chatoyant et ceinte de vert émeraude, enchantant chaque regard qu'il vienne de l'air, de la mer, de la plaine ou de la colline. »
Aujourd'hui, dix-huit terrasses monumentales entourent le mausolée du Báb, du pied au sommet du mont Carmel. On en compte neuf en dessous et neuf au-dessus du mausolée. Les terrasses ont été inaugurées lors d'une cérémonie en mai 2001.
Depuis 2001, plus de deux millions de personnes ont visité les jardins en terrasses. En 2008, le mausolée du Báb, ainsi que le mausolée de Bahá’u’lláh près de Saint-Jean-d’Acre, ont été inscrits au patrimoine mondial de l'UNESCO en reconnaissance de leur « valeur universelle exceptionnelle » pour l'héritage commun de l'humanité.