Im Jahr 784 wurde mit dem Bau der Moschee unter der Aufsicht von Abd ar-Rahman I., dem ersten umayyadischen Emir von Córdoba, begonnen. In den zwei folgenden Jahrhunderten wurde sie erweitert. Unter Abd ar-Rahman II. war eine Vergrößerung des ursprünglich 11-schiffigen Betsaals erforderlich. Die heutige Ausdehnung erlangte das Gebäude 987/988 mit der Erweiterung der Außenschiffe und des Orangenhofes.