Le mausolée est composé des éléments suivants :

1- Un entrepôt dans lequel étaient conservés les matériaux et produits issus des habous (waqfs) et des dons.

2-  L’appartement au-dessus de l'entrepôt, qui était réservé au pacha et utilisé par le responsable de la collecte des impôts  

3-  La madrasa, qui est attenante à l'entrepôt et se distingue par sa salle de prière rectangulaire et profonde, qui se compose de trois nefs et six travées avec au centre le mihrab, surmonté d'une coupole sur trompes cannelées. La madrasa dispose de deux cours, dont l'une est entourée de galeries sur les quatre côtés autour desquelles s’organisent les chambres destinées jadis aux étudiants et de nos jours aux visiteurs. À l'angle Nord-est se dresse un minaret aux influences andalouses, occupé à l’étage par deux baies géminées encadrées de revêtement de céramique  et dont le  sommet  est surhaussé à merlons à degrés, et non arrondis comme c’est le cas à Kairouan, rappelant le minaret de la mosquée de la Kasbah à Tunis.

4 - Le mausolée: On y accède par une entrée coudée revêtue  de carreaux de céramique  tunisienne, menant à un vestibule qui s'ouvre sur une salle surmontée par un dôme décoré de stuc sculpté  de style andalous, qui précède la grande cour réservée à la tenue des divers rituels. Cette cour  est entourée de portiques ; ses murs sont  lambrissés de carreaux de céramique polychromes, surmontés de panneaux de plâtre sculpté. Quant à la chambre funéraire d'Abou Zamaa, elle se présente sous la forme d’une salle carrée surmontée d'un dôme peint de motifs floraux et géométriques modernes (XIIIe. s  IXXe s. de notre ère). Le sanctuaire du   compagnon du prophète,  Abou Zamaa al-Balawi met en évidence la grande harmonie entre ses différentes composantes architecturales et la splendeur de la décoration et reflète les nouvelles influences sur l'architecture tunisienne, à savoir, d'une part, des influences turques, et d'autre part, des influences byzantines et andalouses, parvenues à travers les migrations forcées de l'élément humain andalou. Ces influences se mêlent au patrimoine local légué par l'école d'architecture kairouanaise. Abou Zamaa al-Balawi est considéré comme la figure sainte la plus vénérée et visitée par les Tunisiens, qui affluent au sanctuaire de tout les coins du pays. Son sanctuaire, accueille les cérémonies de contrats de mariage et  de circoncision, et reçoit le  premier  tapis tissé  par la jeune kairouanaise.