L’occupation de la ville haute ne débute qu’avec l’époque gallo-romaine, vers les années 40 à 30 avant Jésus-Christ. Laon n’était pas un chef-lieu de cité à l’époque romaine mais Saint-Rémi de Reims en fit un évêché au tout début du VIe siècle.
Site défensif reconnu, la ville devient un enjeu stratégique important dès le haut Moyen-Age. Résidence privilégiée des derniers rois carolingiens, ceux-ci y trouvent un refuge dans leur lutte contre les précurseurs des Capétiens.
Bien que moins fréquentée par les souverains de la nouvelle dynastie, ces derniers n’en continuent pas moins à surveiller de près la cité. Ainsi, Louis VI vient châtier les acteurs de l’insurrection communale de 1112, révolte au cours de laquelle l’évêque est tué par les bourgeois de la ville.
Endommagée par un incendie, la Cathédrale carolingienne est remplacée par une construction gothique à partir de 1150. La ville atteint alors son apogée.
Ceinte de puissants remparts, Laon abrite, outre la cathédrale et son quartier canonial, trois grandes abbayes, seize églises paroissiales, deux commanderies, mais aussi le Palais Royal implanté au centre de l’isthme formé par le plateau. Les faubourgs implantés en ville basse ont surtout une activité agricole, fortement tournée vers la production du vin.
Le pays subit les ravages de la Guerre de Cent Ans, pendant laquelle les Anglais incendient l’Abbaye Saint-Vincent (1359). La Renaissance y apporte son souffle, dont témoignent quelques édifices.
Les Temps Modernes voient cependant se confirmer un certain déclin amorcé dès la fin du Moyen Age. À la fin du XVIe siècle, la ville paie son attachement à la Ligue, opposée à l’avènement de Henri IV au trône. Le roi, vainqueur, n’hésitant pas à faire raser tout un quartier, ordonne en effet l’édification d’une citadelle pour punir et mieux surveiller les habitants.
De nombreux monuments sont construits ou remaniés aux XVIIe et XVIIIe siècles, comme le cloître et les bâtiments de l’abbaye Saint-Martin. Plusieurs établissements religieux changent d’affectation lors de la Révolution. L’ancienne Abbaye Saint-Jean accueille ainsi la préfecture du nouveau département de l’Aisne.
La ville se modernise au XIXe siècle. Le chemin de fer s’y implante en 1857, et ses vocations scolaire et militaire sont renforcées par la construction de nouveaux bâtiments.
Très touchée par les occupations de 1870 et de la première guerre mondiale, les bombardements de 1944 causent aussi d’importants dégâts. Néanmoins, le cœur historique reste relativement préservé des destructions.
C’est surtout dans l’après-guerre que les faubourgs se développent et que de nouveaux quartiers sont créés. Ces faubourgs concentrent aujourd’hui la majorité des presque trente mille habitants de la ville et des activités économiques.