يقع الجامع الكبير في الطرف الشرقي للمدينة، على بعد حوالي خمسين متراً من الرباط. وقد أمر ببنائه الأمير الأغلبي أبو العباس محمد عام 237 هـ / 851 م.
والجامع مستطيل الشكل ويتكون من صحن تفتح عليه قاعة الصلاة. وهو محاط بأروقة تستند الى أعمدة. ولا يحتوي الجامع على مئذنة. ويمكن تفسير ذلك بوجود برج المراقبة بالرباط القريب والذي يمكن أن يلعب دور المئذنة. وترتكز الأروقة الثلاث ذات العقود المتجاوزة على دعامات قصيرة للغاية تعود إلى المرحلة الأولى من تشييد الجامع. أما الرواق الرابع، المقام ناحية قاعة الصلاة والذي يرتكز على أعمدة، فالأغلب على الظن أنه أضيف خلال الفترة الزيرية، وتم تجديده في الفترة المرادية (1086 هـ / 1675 م).
ويزدان الجزء العلوي من الأروقة الأغلبية الثلاثة والرواق المتاخم لقاعة الصلاة بنقيشة كتابية بالخط الكوفي. وتتكون قاعة الصلاة المصممة على شكل حرف 'T' من ثلاثة عشر بلاطة وستة أساكيب. وتتميز البلاطة المقابلة للمحراب والأسكوب
المحوري، ذي الأعمدة المزدوجة، عن سواهما بالاتساع. وقد تم تعزيز مظهر هذا الأخير بقبتين، إحداهما تنتصب أمام المحراب.
وتتكون النواة الأولى للجامع التي تعود الى زمن أبي العباس محمد، من ثلاثة عشر بلاطة، يعلو كلا منها سقف مُقبّى، وثلاثة أساكيب ترتكز على عقود متجاوزة نصف دائرية تستند الى دعامات صليبية الشكل. وفي عهد إبراهيم الثاني (875-902)، تمت توسعة قاعة الصلاة بإضافة ثلاث أساكيب ومحراب جديد تتقدمه قبة محمولة على اكتاف. ويزدان هذا المحراب شبه الأسطواني بزخرفة زيريّة، كما يتضح ذلك من الحنيات المستندة الى أعمدة، التي تزين القبيبة والنقوش الكوفية المورّقة التي تزيّن العمودين الموجودين على جانبي المحراب وهما عمودان مستجلبان من معالم تعود الى العصور القديمة.
ويُذكّر المظهر الخارجي للمبنى الذي يتميز بضخامته وتقشفه بعمارة الرباطات، كما وأن القرابة بينه وبين عمارة المنشآت المائية وتحت الأرضية ملفتة للنظر. وقد غدت هذه السمات لاحقا من سمات العمارة بمنطقة الساحل التونسية.