Elle fut la capitale de la province romaine Provincia Hispania Ulterior Baetica (Bétique), une époque de splendeur durant laquelle elle compta autant d'édifices de loisirs que Rome elle-même et à laquelle elle donna de grands philosophes comme Lucius Annaeus Sénèque, des orateurs comme Marcus Annaeus Sénèque et des poètes comme Lucain. Elle occupa ensuite une place importante dans la province de Spania de l'Empire byzantin et pendant la période wisigothique. Elle redevint capitale sous l'Émirat indépendant et le Califat omeyyade d'Occident, époque de son apogée, où elle compta entre 250 000 et 500 000 habitants : au Xe siècle, elle était l'une des plus grandes villes du monde, ainsi qu'un grand centre culturel, politique et économique. C'est de cette époque que date l'un de ses monuments les plus célèbres : la Mosquée de Cordoue.
Aujourd'hui, c'est une grande référence culturelle du sud de l'Europe, l'une des villes les plus belles, les mieux conservées et offrant la meilleure qualité de vie d'Espagne. Avec l'un des centres historiques les plus étendus du monde, inscrit au patrimoine mondial de l'UNESCO en 1994 (la Mosquée l'est depuis 1984), la ville compte aussi plusieurs quartiers très modernes et bien desservis, emblèmes de la Cordoue moderne du XXIe siècle.
L'histoire du monument est présentée dans Histoire de la Mosquée de Cordoue.
Période romaine
On dispose de peu d'informations sur l'origine de la ville de Cordoue. Les premières traces datent de l'âge du bronze final. Il existait un village indigène appelé Corduba . Après sa conquête par les Romains, menés par Lucius Marius, en 206 av. J.-C., Cordoue devint une ville importante, qui servit de base aux troupes romaines. Elle fut considérée comme la capitale officieuse de l'Hispanie ultérieure.
C'est à partir des guerres civiles entre César et Pompée que Cordoue entra pleinement dans l'histoire. Après la victoire de César, elle subit de graves destructions et une forte baisse de sa population, sans perdre pour autant ses privilèges antérieurs. Cordoue reçut le statut de colonie et devint ainsi la capitale de la province de Bétique nouvellement créée, à la suite des réformes administratives entreprises par Auguste. Durant les trois premiers siècles de l'Empire romain, la ville connut un grand essor, grâce au statut que lui conférait son rang de capitale. Elle possédait des écoles de haut niveau, et certains Cordouans devinrent sénateurs à Rome. Cordoue était le point de départ des courriers officiels vers les autres villes et le siège des archives administratives. Le commerce de l'huile, des minerais et des produits agricoles prit un grand essor, favorisé sans aucun doute par la construction de la Via Augusta, qui passait par le pont romain du Guadalquivir et reliait Linares à Cadix, ainsi que la Bétique aux autres établissements hispaniques. Le personnage le plus important de la Cordoue hispano-romaine fut Sénèque, bien qu'il ait été emmené enfant dans la capitale de l'empire, où il devint le précepteur de Néron.
Une fois la guerre civile terminée, Cordoue reçut le statut de colonie et devint ainsi la capitale de la province de Bétique nouvellement créée. Durant les trois premiers siècles de l'empire romain, la ville connut un grand essor : c'était la plus florissante d'Andalousie et elle possédait des écoles de haut niveau. La construction de la Via Augusta, qui passait par le pont romain du Guadalquivir et reliait Linares à Cadix, ainsi que la Bétique aux autres établissements hispaniques, y contribua également. Cordoue était entourée de remparts, comme le prouvent les vestiges archéologiques
Période wisigothe
Le déclin commença sous Dioclétien : la capitale fut transférée à Hispalis (Séville) et le christianisme commença à se répandre sur les terres cordouanes. Les communautés chrétiennes prirent de l'importance, comme en témoignent les sarcophages paléochrétiens conservés aujourd'hui à l'Alcazar et au Musée archéologique.
Au Ve siècle se produisit une profonde transformation. Cordoue fut pillée par les Vandales, qui donnèrent leur nom actuel à la région andalouse. Le pouvoir romain s'effaça peu à peu et un dux wisigoth s'installa en Bétique. Cordoue subit à certaines périodes les rivalités entre factions qui se disputaient le pouvoir, comme les luttes entre Léovigild et son fils Herménégild, qui s'achevèrent par la conquête de Cordoue par le premier. Dès lors, une minorité dominante s'imposa à la population hispano-romaine majoritaire.
Sous le règne du catholique Récarède, les Wisigoths construisirent la basilique Saint-Vincent, sur un temple romain dédié au Soleil, à l'endroit même qu'occuperait plus tard la grande mosquée. Les révoltes nobiliaires furent constantes, ce qui conduisit aux guerres civiles qui précédèrent l'invasion musulmane.
Période musulmane
En 711, Cordoue fut conquise par les généraux de l'envahisseur arabe Tariq. Les envahisseurs installèrent le siège de leur gouvernement dans l'alcazar wisigoth, situé près de l'actuel Alcázar des Rois Chrétiens, et nommèrent un wali, ou gouverneur.
Cinq ans après la conquête, les Arabes firent de Cordoue la capitale des terres d'Al-Andalus. Le pont romain fut reconstruit, les remparts restaurés et, sur la rive gauche du Guadalquivir, on fonda le faubourg appelé Secunda, aujourd'hui Campo de la Verdad. Une première grande mosquée fut fondée à Cordoue lorsque les Omeyyades et les Abbassides se séparèrent définitivement, après une lutte sanglante. En 756, le prince omeyyade Abd al-Rahman vainquit l'émir abbasside et s'imposa, devenu Abd al-Rahman Ier, comme la seule autorité d'Andalousie. Il fit établir la mosquée en 786. Ses successeurs favorisèrent l'essor de la culture, et Cordoue accueillit des mystiques, des maîtres orientaux, des mathématiciens, des médecins, des philosophes et des poètes. On acheva la construction de la mosquée, qui fut agrandie par Abd al-Rahman II.
Peu à peu, la civilisation arabe se consolidait. La plus grande splendeur de la Cordoue musulmane fut atteinte sous Abd al-Rahman III. Il prit le titre de calife en 929 et fit de Cordoue un califat indépendant de Damas et la ville la plus florissante, la plus cultivée et la plus peuplée d'Europe. Il agrandit à nouveau la mosquée et la dota d'une cour à portiques. À 8 km de la capitale, il édifia le somptueux palais de Medina Azahara. Son fils Al-Hakam II acheva les travaux du palais, agrandit encore la mosquée et réunit une bibliothèque de 400 000 volumes, la plus importante du monde. Selon les sources arabes, sous son califat la ville atteignit le million d'habitants et compta jusqu'à mille six cents mosquées, trois cent mille habitations, quatre-vingt mille boutiques et d'innombrables bains publics.
Cette splendeur commença à décliner sous le règne de son successeur, qui laissa le gouvernement entre les mains du chef militaire Almanzor, lequel réalisa le dernier agrandissement de la Mosquée.
Le Califat commença à se désagréger en raison des guerres civiles, qui mirent fin au pouvoir central et favorisèrent dans toute l'Andalousie la formation des royaumes de taïfas. Les Berbères, aidés par le roi Sanche de Castille, s'emparèrent de Medina Azahara en 1010, l'incendièrent et la pillèrent. Aux XIe et XIIe siècles, Cordoue ne fut plus qu'une taïfa parmi d'autres. Elle tomba aux mains de Séville à l'époque du roi poète Al-Mutamid. Son dernier petit roi, Ibn Hud, perdit la ville face à Ferdinand III le Saint.
Parmi les nombreux savants et artistes de la Cordoue califale, il faut citer le poète Ibn Hazm (994-1064), le philosophe Averroès (1126-1198) et le médecin et penseur juif Maïmonide (1135-1204).
Période chrétienne
Le 29 juin 1236, Cordoue tomba aux mains du roi Ferdinand III. Après la signature des capitulations, la population musulmane fut chassée de la ville. On commença à construire de nouvelles églises de style dit fernandin ou de la Reconquête : une transition entre le roman monastique et le gothique castillan.
La ville resta l'épicentre de conflits civils, qui ne s'apaisèrent qu'avec les Rois Catholiques.
Du XVIe au XXe siècle
Bien que l'on ait construit sous les Habsbourg la Puerta del Puente et la Plaza de la Corredera, et que les Cortes de 1570 s'y soient tenues avec Philippe II, Cordoue perdit peu à peu son importance et sa population.
Sous le règne de Philippe IV, au siècle suivant, eut lieu l'émeute du pain, due à la pénurie de blé.
Au XIXe siècle, Cordoue vécut une grande exaltation patriotique pendant la guerre d'indépendance espagnole. Dans les années suivantes, Cordoue connut une période de vives tensions entre absolutistes et libéraux. Sous le règne d'Isabelle II, Cordoue fut un bastion des libéraux, qui vainquirent les royalistes en 1868 au pont d'Alcolea.
Au milieu du XXe siècle, la ville changea de physionomie, mit en valeur ses traditions populaires et se modernisa.