Das Waldviertel zählt zum eingeebneten Rumpfgebirge der Böhmischen Masse. Hier findet man kristalline und metamorphe Gesteine wie Granite, Gneise, Glimmerschiefer u. a.

Im Süden grub sich die Donau durch das Kristallin und trennte den Dunkelsteiner Wald vom Rest der Böhmischen Masse ab. Nach diesem Durchbruch, der landschaftlich einzigartigen Wachau, tritt die Donau in das flachhügelige Alpenvorland ein.

Die Donau durchschneidet im weiteren Verlauf bei Greifenstein-Klosterneuburg die östlichsten Ausläufer der Alpen (Wienerwald) und durchquert das Wiener Becken. Dieses entstand als Einbruchsbecken im Tertiär, das mit Sedimenten aufgefüllt wurde.

Im Wiener Becken liegen die größten Erdöl- und Erdgasvorkommen Österreichs. An den Bruchflächen, der "Thermenlinie", treten warme Quellen auf (Baden, Bad Vöslau). Im Westen wird das Wiener Becken vom Wienerwald und von den Kalkalpen begrenzt.
Im Süden grenzen die Kristallingebiete Semmering, Bucklige Welt, Rosalien- und Leithagebirge das Becken ab.

Während der Eiszeiten war Niederösterreich weitgehend eisfrei. Der im Vorfeld der Gletscher abgelagerte Moränenschutt und die Schotterfluren wurden vom Wind ausgeblasen. Der staubfeine Sand bedeckt heute weite Flächen des Weinviertels und bildet den fruchtbaren Boden für den Weinbau.