يميز جدارن المداخل وأروقة الصحن نماذج فريدة من قطع الفسيفساء التي تعد إحدى آيات الزخرفة العربية الإسلامية من حيث اللون والتناسق وجودة الصناعة والإتقان وتعد أروع أمثلة الزخارف الإسلامية في القرن الأول الهجري وبعض نوافذ المسجد تحوي أقدم زخارف هندسية إسلامية. وقد تعرض المسجد لعدة حرائق أخطرها ما حدث عام 461هـ ثم احترق في القرن السادس الهجري مرتين وكذلك في كل من التاسع الهجري والقرن الرابع عشر لكن الولاة وحكام المسلمين عملوا على ترميمه وتجديده وحافظوا قدر الإمكان على طرازه الأصلي وإن كان فقد الكثير من عناصره المعمارية الأولى وإن احتفظ بتخطيطه الأول.