Ko so Babenbergi leta 1246 izumrli, se je Avstrije in s tem tudi Dunaja polastil češki kralj Ottokar II. Przemysl. Kot najmogočnejši volilni knez v kraljestvu je upal, da si bo s papeževo pomočjo pridobil krono. Ko je leta 1273 sicer kot revni knez zasmehovani praoče kasnejših Habsburžanov, Rudolf I. Habsburški, postal kralj rimskega cesarstva, ga Ottokar dolgo ni hotel priznati kot kralja. Ta se je leta 1276 sicer uklonil, dve leti kasneje pa poskušal z vojnim pohodom obrniti v svoj prid. Vojni pohod se je ponesrečil, Ottokar je umrl na bojnem polju.

Od tega trenutka naprej so podobo mesta oblikovali Habsburžani (več kot 600 let). To dejstvo je mogoče razumeti dobesedno, saj je Rudolf prvič v zgodovini cesarske politike sistematično uredil mesta in meščanstvo. Vzpostavljeno je bilo finančništvo in razpisan poseben davek na pridobivanje denarja; na kratko, nastali so gospodarsko politični zametki kasnejše ureditve.

Leta 1296 je Dunaj dobil nove mestne pravice, ki so prinesle nov razcvet. Prekinila ga je kuga leta 1349. Z izgradnjo svetovljanskih inštitucij oblasti, izdelavo kovancev, ustanovitvijo sodišča, cerkvenih ustanov in, česar nikakor ne gre prezreti, zgodnjim razvojem sloja izobražencev zaradi najstarejše univerze v nemško govorečem prostoru, je iz Dunaja nastajalo velemesto.

Univerza na Dunaju, ki je nastajala v težkih pogojih – Karl IV. je, da bi zaščitil vlogo Prage, dolgo uspešno oviral ustanovitev teološke fakultete – ta se je kasneje uveljavila kot »odlična ustanova naravoslovnih znanosti« in (od leta 1500 naprej) humanizma.

Prvo dunajsko mestno obzidje, ki si to ime res tudi zasluži (Vindobona je imela samo neke vrste utrdbo), je bilo med drugim financirano z odkupnino, ki so jo Angleži plačali za Richarda Löwenherza; desno: Oklepi takratnega časa so tehtali 30 kilogramov in so bili sestavljeni iz 100 detajlov

Rezidenca Svetega rimskega cesarstva

Pomen mesta kot centra habsburškega cesarstva je naraščal kljub gospodarskim krizam v 15. stoletju, med drugim zato, ker je bil Dunaj 1438/1439 rezidenčno mesto Rimskega cesarstva, leta 1469 pa je bil povzdignjen v sedež papeštva; širitev mesta je bila zaradi Donave mogoča samo proti zahodu, poleg mosta čez reko »Wienfluss« v 15. stoletju je obstajal zgolj še eden leseni most, in sicer na mestu današnjega "Schwedenbrücke". Ta je bil zaradi visokih poplav in polzenja ledu skoraj vedno v obnavljanju. Sicer je bil Dunaj v poznem srednjem veku dokaj razkošno mesto, saj so bili skoraj vse ceste in trgi tlakovani s tlakovci iz mehkega peščenjaka.

Za čistočo na trgih je skrbel posebej določen »smetarni sodnik« - ta ureditev je bila v takratnem času precej redka. Kot rezidenca nemških kraljev in rimskih cesarjev je bil Dunaj tudi eden od sedežev cesarskih uradov in glavni sedež osrednjih uradov habsburškega cesarstva, ki je takrat raslo v svetovno velesilo. Od leta 1485 do 1490 je na Dunaju živelo približno 20.000 Dunajčank in Dunajčanov začasno pod oblastjo madžarskega kralja Matije Korvina.