Au centre de l'édifice, sous la coupole soutenue par un cercle de colonnes, se trouve le rocher sacré d'où le Prophète Mahomet aurait été emporté au paradis d'Allah sur son cheval Borak. Les musulmans commémorent donc ici l'ascension de Mahomet. Ils montrent dans le rocher l'empreinte du sabot de Borak prenant son élan vers le ciel. La tradition musulmane considère ce rocher comme le centre du monde où sera installé le trône de Dieu le jour du jugement dernier. 

La tradition juive - et la tradition chrétienne après elle - voit dans ce rocher le sommet du mont Moriah où Abraham dressa l'autel pour sacrifier son fils Isaac. Il est appelé le lieu de la "ligature d'Isaac". Le récit de cet épisode se trouve dans la Genèse, ch. 22 vv 1-18. C'est probablement sur cette "première pierre de la création" que s'érigeait l'autel du temple de Salomon.

Un escalier donne accès à une grotte située sous le rocher de l'ascension de Mahomet. Elle constitue un sanctuaire dédié à Abraham et à Élie qui sont également vénérés par les musulmans. Abraham, le premier des croyants, est le père de la nation arabe par son fils Ismaël né de la servante Agar (Genèse 16). Quant à Elie, il est le prophète dont la Bible nous dit qu'il a "vu" Dieu (1Rois 19, 9-15) et qu'il a été enlevé au ciel sur un char de feu (2Rois 2, 9-13).

L'édifice de plan octogonal comprend deux déambulatoires séparés par une colonnade surmontée d'arceaux. Les quatre portes du Dôme se situent aux quatre points cardinaux. La majeure partie de la riche décoration a été sauvegardée au cours des siècles. 

La  construction de la mosquée el-Aqsa commença dès 638 quand le calife Omar s'empara de Jérusalem au nom de l'islam. Son nom en arabe signifie "la lointaine".