Das Wiener Rathaus wird in den Jahren 1872 bis 1883 auf Betreiben des liberalen Bürgermeisters Cajetan Felder nach Plänen des deutschen Dombaumeisters Friedrich Schmidt erbaut. Schmidt lässt sich bei der äußeren Gestaltung des im Stil der Neugotik errichteten Gebäudes von der Tradition flämischer Rathäuser der Gotik inspirieren, im Besonderen vom Brüsseler Rathaus (der Grundriss mit sieben Innenhöfen folgt aber der Tradition barocker Paläste). Die Hauptfassade ist eines der herausragendsten Beispiele neugotischer Profanbauten.
Nach der Eingemeindung der Vorstädte 1850 wächst Wien stark an und das Alte Rathaus in der Wipplingerstraße wird bald zu klein. Nach dem 1859 begonnenen Abbruch der Stadtmauer beschließt die Stadt einen Neubau an der neuen Ringstraße, an der neben zahlreichen Palais der Aristokratie auch zahlreiche bürgerliche Prunkbauten enstehen: das Parlament (1883), die Universität Wien (1884) und das Burgtheater (1888). Mit diesen Prunkbauten demonstriert das erstarkende Bürgertum sein neu gewonnenes Selbstbewusstsein gegenüber dem Kaiser. Mit der Neugotik knüpft der Architekt das Gebäude äußerlich an die Tradition städtisch-bürgerlicher Freiheiten des Mittelalters.
Das 152 m lange und 127 m breite Rathaus steht auf einer Grundfläche von 19.592 m². Insgesamt verfügen die 1.575 Räume des Hauses mit 2.035 Fenstern über eine Nutzfläche von rund 113.000 m².
Der Bau besteht aus Ziegeln, die mit Naturstein verkleidet sind. Lediglich einzelne Teile wie die Turmspitzen sind zur Gänze aus Stein. Verwendet wurden harte Leithakalksteine aus Wöllersdorf, Hundsheim, Kaisersteinbruch, Mannersdorf und Oslip sowie poröse Kalksandsteine aus Sankt Margarethen, Breitenbrunn und Zogelsdorf. Da aufgrund des Baubooms an der Ringstraße der Bedarf an Baumaterialien nicht alleine aus den nahe bei Wien liegenden Steinbrüchen gedeckt werden konnte, mussten diese auch aus anderen Teilen der Monarchie und aus dem Ausland bezogen werden: große Säulen, Gesimse und Kapitelle sind aus Karstkalken gefertigt, die Fenstersäulen aus Trienter Jurakalk, die Balustradenfiguren aus Nanziger Savonnieres, kleine Säulen aus Untersberger Marmor, die Sitzbänke in den Frontarkaden und die Stufen der Freitreppe aus Istrischem Kreidekalk; das Dach wurde mit englischem Schiefer gedeckt.
Prägendstes Element des Rathauses ist der Rathausturm in der Mitte der Vorderfront. Da nach damaliger Bauordnung kein profanes Gebäude die umliegenden Sakralbauten überagen durfte, konnte dieser nur 98 m hoch errichtet werden. Auf die Turmspitze wurde jedoch am 21.10.1882 der 3,5 m hohe "Rathausmann", ein Standartenträger in Rüstung aus getriebenem Kupfer, gesetzt, wodurch der Turm mit Figur und deren Sockel jetzt 103,3 m misst und damit auch die nahe gelegene Votivkirche (der einzige Sakralbau an der Wiener Ringstraße) überragt. Der "Rathausmann" wurde von Alexander Nehr nach dem Vorbild der Prunkrüstung von Kaiser Maximillian I. gestaltet und vom Rossauer Schlossermeister Ludwig Wilhelm der Stadt Wien geschenkt.
Im 1. Stock an der Vorderfront des Rauthauses befindet sich der Festsaal, dessen Raumhöhe sich über zwei Stockwerke erstreckt. Mit einer Länge von 71 m und einer Breite von 20 m ist er eine der größten Säle an der Wiener Ringstraße. Von den Innenhöfen führen zwei Feststiegen zum Festsaal, von dem sich ein herrlicher Blick auf die Ringstraße, dem gegenüber liegenden Burgtheater und auf die Innere Stadt bietet. Der Festsaal kann bei Bedarf noch um das an den Festsaal angrenzende "Nordbuffet" erweitert werden. Das "Südbuffet" wird 1973 im Auftrag von Leopold Gratz vom Festsaal abgetrennt und zum Büro des Bürgermeisters umgebaut. Neben dem Festsaal können im 1. Stock noch weitere Räume um den Arkadenhof, wie die beiden Wappensäle, für Austellungen, Konzerte, Bälle oder Privatfeiern genutzt werden. Insgesamt finden jährlich mehr als 800 Veranstatungen im Wiener Rathaus statt.
An der Hinterfront des Gebäudes befindet sich im 1. Stock der Gemeinderatssitzungssaal, der sich ebenfalls über zwei Stockwerke erstreckt (er dient zugleich auch als Plenarsaal des Wiener Landtags). Die Sitze der Abgeordneten sind in klassischem Parlamentsstil halbkreisförmig und nach hinten ansteigend angeordnet. Beeindruckend ist nicht nur die weitgehend orginale Holzvertäfelung und Möblierung, sondern vor allem der eindrucksvolle Leuchtkörper des Saales. Über den 2. Stock erreichen Besucherinnen und Besucher die Galerie des Saales.
Im Südteil des Rathauses befindet sich im 1. Stock nahe des Bürgermeisterbüros der Stadtsenatssitzungssaal, in dem die Wiener Stadt- und Landesregierung regelmäßig tagt. Hier verleiht der Bürgermeister auch Ehrungen und Ehrenzeichen. Des Weiteren sind im Repräsentationsgeschoss des Rathauses die wissenschaftliche Bibliothek der Stadt (Wienbliothek im Rathaus) sowie die Büros einiger Stadträtinnen und Stadträte und Spitzenbeamtinnen und Spitzenbeamten untergebracht.
An der nördlichen und südlichen Seitenfront befinden sich die wichtigsten Eingänge und Einfahrten zum Gebäude. Ein weiterer Eingang befindet sich an der westlichen Hinterfront. Von jedem dieser Eingänge aus führen je zwei Treppen in die oberen Geschosse. Vom nördlichen Eingang an der Felderstraße führt einer der letzten historischen Paternosteraufzüge zur Wienbibliothek. Beim südlichen Eingang führen ein kleiner Aufzug direkt in die Amtsräume des Bürgermeisters, und eine schmale Wendeltreppe in die ehemalige Bürgermeisterwohnung im Halbstock. An der dem Rathausplatz zugewandten Vorderseite des Gebäudes führen zahlreiche Stufen zu Eingängen direkt am Fuße des Rathausturms, die jedoch nur in die "Volkshalle" führen und daher nur bei Veranstaltungen in dieser geöffnet werden. Die "Volkshalle" direkt unter dem Festsaal, die auch über den Arkadenhof zugänglich ist, wurde als Saal für Veranstaltungen "volkstümlichen Charakters, an denen auch einfachere Menschen teilhaben", erbaut. Vom Festsaal unterscheidet sich sie sich durch die wesentlich geringere Raumhöhe, und die Tatsache, dass sie von zahlreichen Säulen, die die oberen Geschoße tragen, durchbrochen ist; auch der Lichteinfall ist wesentlich geringer. Vom Eingang an der Rückseite führen Treppen direkt zum Gemeinderatssitzungssaal. Am Fuß der Treppen befand sich einst eine überdachte Vorfahrt für die Kutschen der zu den Sitzungen kommenden Gemeinderäte. Um 1970 wird diese zur "Stadtinformation" umgebaut.
Seit 1927 wird das Gebäude von der Rathauswache, einer speziell auf die Sicherheitsbedürfnisse des Rathauses geschulte Sondereinheit der Wiener Berufsfeuerwehr geschützt. Zu ihren Aufgaben zählen neben klassischen Brandschutzmaßnahmen, der Betrieb der Wiener Katastrophenschutzzentrale sowie seit 2005 das Ausstellen von Notpässen.
Der "Wiener Rathauskeller" im 1. Untergeschoss, der über einen eigenen Abgang vom Rathausplatz verfügt, wurde am 12.2.1899 eröffnet. Der von der Stadt verpachtete Restaurationsbetrieb umfasst mehr als 3.500 m² in zahlreichen Räumen: dem Rittersaal (vormals Ratskeller), dem Grünen Saal unter der Volkshalle (vormals Volkskeller), dem Grinzinger Keller (mit 70.000 Liter fassendem Weinfass), dem Zieher-Stüberl, dem Augustiner-Stüberl (ehemalige Schwemme), dem Ratsherrenstüberl (geschmückt mit Darstellungen der Wiener Sagen "Küss den Pfennig" und "Schab den Rüssel") und dem Rosenstüberl.
Der Platz an der Rückseite des Rathauses wird 1907 nach dem Architekten des Rathauses in Friedrich-Schmidt-Platz benannt. Schon am 28.5.1896 wird in der Grünfläche des Platzes ein Denkmal des Erbauers enthüllt.
1900 werden erstmals zwei Sozialdemokraten in den Wiener Gemeinderat gewählt: Jakob Reumann für Favoriten und Franz Schuhmeier für Ottakring. Obwohl bei für den Reichsrat 1907 ein allgemeines und gleiches Wahlrecht für Männer eingeführt wird, gilt in Wien bis zum Ende des Ersten Weltkriegs ein sehr ungerechtes Kurienwahlrecht, dass die Sozialdemokratie krass benachteiligt: so wird in der vierten (allgemeinen) Kurie nur ein Mandat pro Bezirk vergeben (insgesamt 20 Mandate), während es in den ersten drei Kurien, die den Besitzenden und hohen Amtsinhabern vorbehalten sind, jeweils 46 Mandate zu wählen gibt. Damit gelingt der christlichsozialen Partei, sich trotz sinkendem Zuspruch in der Bevölkerung noch politischen Einfluss zu sichern.
Erst am 4.5.1919 finden auch in Wien die ersten Wahlen nach einem fairen und demokratischen Wahlrecht statt. Die Sozialdemokratie erreicht 100 der 165 Mandate, die christlichsoziale Partei 50. Jakob Reuimann wird zum ersten sozialdemokratischen Bürgermeister Wiens. Wien ist damit die erste Millionenstadt der Welt mit einer sozialdemokratisch geführten Verwaltung. In den folgenden Jahren wird das "Rote Wien" zum Symbol und Vorbild für fortschrittliche Kommunalpolitik mit den Schwerpunkten Wohnbau, soziale Fürsorge und Bildung.
Seit 1919 erringt die Wiener Sozialdemokratie bei allen freien und demokratischen Wahlen die absolute Mehrheit (ausgenommen 1996 und 2010) und stellt den Bürgermeister: Jakob Reumann (1919-1923), Karl Seitz (1923-1934), Theodor Körner (1945-1951), Franz Jonas (1951-1965), Bruno Marek (1965-1970), Felix Slavik (1970-1973), Leopold Gratz (1973-1984), Helmut Zilk (1984-1994) und Michael Häupl (seit 1994).
Am 12.2.1934 lässt das austrofaschistische Staatsregime Bürgermeister Seitz in seinen Amtsräumen verhaften, ohne dass er sich etwas zu Schulden kommen hat lassen, außer der Tatsache, Vorsitzender der Sozialdemokratie zu sein. Auch sein vom austrofaschistischen Regime eingesetzter Nachfolger wird am 12.3.1938 im Rathaus festgenommen, diesmal von den neuen nationalsozialistischen Machthabern.
Am 12.4.1945, während in der Leopoldstadt, in der Brigittenau und in Floridsdorf noch die "Schlacht um Wien" tobt, treffen sich im "Roten Salon" des Rathauses sozialdemokratische Funktionärinnen und Funktionäre zu ersten Gesprächen über die demokratische Neuordnung des Landes. Am 14,4.1945, einen Tag nach der Befreiung Wiens, wird im Rathaus die Wiedergründung der Sozialdemokratie beschlossen. Der bis zum Schluss als Rechtsanwalt von den Nationalsozialisten unbehelligt arbeitende Adolf Schärf tritt dabei als Vermittler zwischen dem radikalen Flügel der Revolutionären Sozialisten, die auch während der schwierigen Jahre der Faschismen illegal tätig waren (unter anderem Felix Slavik und Josef Afritsch), und dem gemäßigt Flügel (unter anderem Theodor Körner, Paul Speiser, Karl Honay, Georg Emmerling, Anton Weber) auf. Schließlich wird die "Sozialistische Partei Österreichs (Sozialdemokraten und Revolutionäre Sozialisten)" gegründet. Da zu diesem Zeitpunkt über das Schicksal von Karl Seitz, dem letzten gewählten Parteivorsitzenden, der 1944 vom nationalsozialistischen Regime verschleppt wurde, nichts bekannt ist, übernimmt Adolf Schärf den provisorischen Vorsitz.
Gleichzeitig wird mit den beiden ebenfalls neugegründeten Parteien ÖVP und KPÖ, die den Anspruch der Sozialdemokratie auf den Bürgermeister akzeptieren, über die Bildung einer Stadtverwaltung verhandelt. Die beiden ersten Kandidaten für das Bürgermeisteramt werden jedoch intern abgelehnt. Erst der dritte Vorschlag, der wenige Tage später seinen 72. Geburtstag feiernde Theodor Körner findet allgemeine Zustimmung. Ihm zur Seite stellt jede Partei einen Vizebürgermeister: Paul Speiser (SPÖ), Leopold Kunschak (ÖVP) und Karl Steinhardt (KPÖ).
Am 29.4.1945 versammeln sich die zwei Tage zuvor gebildete Provisorische Staatsregierung unter dem Vorsitz von Karl Renner und der Stadtsenat im "Roten Salon"; eine Gedenktafel erinnert dort an dieses historische Ereignis. Von hier begeben sich die Begründer der wiedererstandenen Republik in das weitgehend zerstörte Parlament, wo in einem ersten Staatsakt die "Österreichische Unabhängigkeitserklärung" als politische Grundlage der Zweiten Republik beschlossen wird.
