Lorsque la sécurité fut rétablie en Ifriqiya à l'époque des Muhallabene et que Kairouan fut reconstruite, Yazid ibn Hatim reconstruisit radicalement ce sanctuaire en 155 de l’Hégire / 771ap. J.-C. mais celui-ci doit sa morphologie et son plan définitifs à Ziadat Allah Ibn al Aghlab (221-226 H / 836-841 ap.J.-C.). La mosquée de Kairouan allait devenir l’ancêtre et le modèle suivi par l’ensemble des mosquées maghrébines et andalouses. Elle représente la quintessence  du répertoire architectural et ornemental ifriqiyen de l’époque.

Le monument est un vaste quadrilatère irrégulier de 126 mètres de longueur et d'environ 75 mètres de largeur disposé, à l'instar des mosquées iraquiennes, dans le sens de la longueur. La salle de prière hypostyle comprend dix-sept nefs perpendiculaires à la qibla et huit travées. Son plan s’inspire des mosquées omeyyades, à l'instar de la mosquée du Prophète à Médine. Au croisement de la nef axiale et de la travée longeant le mur du mihrab, est érigée une coupole nervée sur trompes en coquille, à base carrée en pierres sculptées. Elle est considérée comme l'une des plus belles coupoles de mihrab de l'art islamique. La salle de prière prolonge la cour centrale dallée de marbre et encadrée de portiques rythmés par des arcs en plein-cintre outrepassés. Au milieu du portique de la qibla se dresse la coupole du bahou (hall), tandis qu'au milieu du mur nord se dresse un minaret en pierres polies, de base carrée, de 10,67 m de côté, atteignant une hauteur de 31,50 m. Le minaret  se compose de trois étages et a servi, à travers l'histoire, d’exemple à de nombreux minarets ifriqyens.

La mosquée se distingue par la conservation de la plupart de ses meubles d'origine datant de ses débuts, dont le minbar(chaire en forme d’escalier)en bois (248 de l’Hégire / 862 après J.-C.), qui est le plus ancien minbaren terre d’Islam  sauvé des vicissitudes du temps. Il est fait de bois de teck et comprend plus de 300 panneaux aux motifs floraux et géométriques exquis. Il traduit la fusion des influences byzantines et iraniennes et leur unification dans la foi islamique.

La mosquée de Kairouan s’enorgueillit également de ses plafonds en bois peints et sculptés qui remontent à différentes périodes historiques  s'étendant sur plus de mille ans. À ces plafonds vient s’ajouter la maqsura(loge) du prince aghlabide al-Muizz ibn Badis avec son cartouche épigraphique inégalé (vers 425 de l’Hégire / 1035après J.-C.). Parmi les splendeurs de cette mosquée, on citera aussi les carreaux de céramique au lustre métallique qui ornent la façade du mihrab (248 de l’Hégire / 862 après J.-C.), une collection unique en son genre dans l'art islamique.