Erste Hinweise auf eine Besiedlung der Gegend findet man bereits für die Zeit des Neolithikums. Die ersten kontinuierlichen Siedlungen wurden allerdings erst durch die Römer im ersten Jahrhundert in Form von Militäranlagen errichtet. Große Bedeutung in der Siedlungsgeschichte hatte die Donau. Sie war Handelsweg für Import- und Exportgüter und Lebensader der Bewohner.
Klosterneuburg…
…im Mittelalter
Die erste Neubesiedlung im Mittelalter bestand aus einem Herrenhof und einer Martinskirche im 11. Jahrhundert. In den folgenden Jahren wurde das Stift errichtet, in dessen Nachlass sich auch Dokumentationen mit der ersten schriftlichen Erwähnung der Stadt befinden. Zuerst gehörte die Kirche weltlichen Kanonikern, später erst wurde sie zu einem Stift für Augustiner Chorherren umgewandelt.
1113 schuf sich Markgraf Leopold II. mit Klosterneuburg eine Residenzstadt und trug so zu einer Ausdehnung von Klosterneuburg bei.
Klosterneustadt entwickelte sich aus zwei Städten, die aufgrund der häufigen Überschwemmungen, ausgehend von der Donau, durch Migration schließlich landeinwärts fusionierten. In der Geschichte kam es immer wieder zu feindlichen Belagerungen, gegen welche die Stadt sich zur Wehr setzen musste. Die Belagerungen wurden von Plünderungen und Zerstörungen begleitet. Bei der Türkenbelagerung von 1529 übernahm die Stadt die wichtige Funktion als Flankenschutz für die nah gelegene Stadt Wien.
…in der Neuzeit
Freiherr von Ripke gründete in Klosterneuburg die erste österreichische Werft. Kaiser Karl VI. versuchte die Stadt zu einem seiner persönlichen Escorials umzubauen. Das Projekt scheiterte jedoch schlussendlich.
Anfang des 19. Jahrhunderts wurde die Stadt von Frankreich besetzt, weshalb Napoleon im Klosterneuburg für kurze Zeit residierte. In den Folgejahren wurde die Stadt zu einem beliebten Domizil für die Mittelschicht aus Wien und umfasste bald an die 5000 Einwohner. Keine hundert Jahre später hatte sich die Einwohnerzahl verdreifacht.
…während des Nationalsozialismus
Die Stadt verlor während des Nationalsozialismus seine Souveränität und wurde gemeinsam mit anderen Ortschaften unter dem Namen Groß-Wien zusammengefasst. Die Rückgliederung erfolgte erst 1954.