Il primitivo tempio di Abderraman I (785) era formato da undici navate longitudinali in direzione nord-sud. In questa parte colpisce il riutilizzo di fusti e capitelli di origine romana o visigota collocati a diverse altezze, perché la linea costruttiva era fissata sul soffitto anziché sul terreno. Un fatto particolare di questa prima moschea e dei successivi ampliamenti è il suo orientamento a sud, come la moschea di Damasco.
Questa circostanza può spiegarsi in diversi modi, anche se sembra probabile che siano stati i terreni sabbiosi del Guadalquivir a impedire l'orientamento ortodosso verso la Mecca. All'interno la nicchia delle preghiere diventa il punto focale.
Un elemento innovativo è l'uso degli archi a ferro di cavallo, provenienti dall'arte visigota, che l'Islam adotterà come propri e come simbolo della sua architettura. Le arcate che dividono le navate sono doppie in altezza: quella inferiore è un arco a ferro di cavallo, quella superiore un arco a tutto sesto. L'alternanza di pietra e mattone conferisce alla Moschea una singolare bicromia che getterà le basi per le costruzioni successive. Questa doppia arcata permette di sollevare di più la copertura e di illuminare meglio gli interni. L'origine di questo singolare modello costruttivo a doppia altezza sembra essere l'acquedotto romano de Los Milagros (Mérida).
Ad Abderraman I succede suo figlio Hixem I, incaricato di innalzare il primo minareto della Moschea, a pianta quadrangolare. Lo stesso Hixem si occupò anche di costruire le gallerie del cortile per la preghiera delle donne e la prima vasca per le abluzioni. Così prendeva forma la prima e principale Moschea della città. Nei tempi successivi, per l'aumento dei fedeli o per il desiderio di monumentalità dei governanti, la Moschea conoscerà numerosi ampliamenti e trasformazioni fino a raggiungere l'aspetto attuale.