Am Montag, den 21. Dezember 1931, wurde um halb neun morgens in Büros des Polizei-Kommandos im Alten Schloss Rauch entdeckt, der durch die Zimmerritzen eindrang. Da dies in der Vergangenheit schon mehrfach vorgekommen war, wurde der Vorfall zunächst ignoriert. Auch weil der Rauch zunächst in seiner Intensität abnahm, ging man davon aus, dass der Qualm durch das Anfeuern der Heizöfen nach dem Wochenende verursacht worden war.
Zwei Stunden später kam es jedoch erneut zu einer Rauchentwicklung in den Büros, die so stark war, dass um 10.39 Uhr ein Notruf an die städtische Feuerwehr abgesetzt wurde. Da von außen kein Rauch zu sehen war, erfolgte die Bekämpfung von innen. Ein erster Brandherd wurde an der Gebäudeecke Planie/Karlsplatz entdeckt. Als die Feuerwehrleute mit Äxten die Decke öffneten, schlugen ihnen Flammen entgegen.
Bis halb ein Uhr breitete sich das Feuer schleichend aus, ohne dass die Feuerwehr Gewissheit über die Brandherde hatte. Dann stand plötzlich das Dach des Dürnitzbaus in Flammen, das nur wenig später einstürzte und Teile der Giebelwände mitriss. Das Feuer griff auch auf den Ost- und Südturm über, ein weiteres Ausbreiten konnte aber verhindert werden. Nach 60 Stunden war das Schlimmste vorbei, doch mussten die Feuerwehrleute bis ins neue Jahr hinein immer wieder aufflackernde Brandherde bekämpfen.
Die riesige Rauchsäule über dem brennenden Alten Schloss zog Tausende in die Innenstadt. Sogar Sonderzüge wurden eingesetzt, um Schaulustige nach Stuttgart zu bringen. Presseberichten zufolge drängten sich bis zu 30.000 Menschen auf dem Karlsplatz, auf der Planie und auf dem Schlossplatz, um den Brand und die Löscharbeiten zu beobachten.
Ihnen bot sich ein spektakuläres Bild. Allein an den ersten beiden Tagen hatte die Feuerwehr mehr als anderthalb Millionen Liter Wasser ins Alte Schloss gespritzt. Da der Winter 1931/32 sehr kalt war, gefroren Teile des Löschwassers an den verkohlten Mauern und Balken und ließen die Ruine des Alten Schlosses wie einen Eispalast wirken.
Es gab wohl mehrere Gründe dafür, dass der Schlossbrand so dramatisch verlief. Während der Umbauten vom 16. bis zum 18. Jahrhundert war die Höhe der Geschosse immer weiter reduziert wurden. In einigen Teilen lagen bis zu vier Decken übereinander, deren Hohlräume mit leicht brennbaren Material wie Spreu verfüllt worden waren. Über diese Hohlräume konnte sich das Feuer über längere Zeit unbemerkt ausbreiten. Auch das Fehlen von Brandwänden sorgte dafür, dass sich die Flammen schnell ausdehnen konnten. Neben diesen baulichen Schwächen zeigte die Katastrophe vom Dezember 1931 auch organisatorische Mängel auf: Die Stuttgarter Feuerwehr hatte keine ausreichende Kenntnis vom Gebäude sowie seinen Ein- und Umbauten, um den Brand effizient bekämpfen zu können.
Die Brandkatastrophe hatte vor allem den Ostteil des Gebäudes getroffen. Der zum Neuen Schloss gelegene Ostturm und der Südturm an der Kreuzung Münzstraße/Dorotheenstraße waren ebenso wie die Dürnitz vollständig ausgebrannt. Die Außenmauern standen weitgehend noch. Nur ein kleines Stück an der Dorotheenstraße, zwischen Südturm und Schlosskirche, war eingestürzt. Die drei Flügel zur Planie, zum Schillerplatz und zur Dorotheenstraße waren ansonsten unversehrt geblieben und damit auch die bedeutenden Renaissance-Arkaden im Innenhof. Die musealen Sammlungen im Alten Schloss blieben vom Feuer verschont. Lediglich die in der Dürnitz deponierten Festdekorationen aus dem 18. Jahrhundert waren vom Löschwasser zerstört worden.
Der Einsturz eines Giebels vom Dürnitzbau hatte drei Feuerwehrleute getötet, viele hatten Rauchvergiftungen erlitten.
Noch während das Alte Schloss brannte, begann eine Diskussion darüber, ob und wie das Gebäude wiederaufgebaut werden sollte. Es gab Stimmen, die dafür plädierten, die vom Brandschutt befreite Ruine als Denkmal stehen zu lassen, in das auch das Kaiser-Wilhelm-Reiterstandbild vom Karlsplatz verlegt werden sollte.
Unter denen, die einen Wiederaufbau anstrebten, wurde diskutiert, ob er in Anlehnung an die alte Gestalt oder unter Anwendung neuer Bauformen und -materialien erfolgen sollte. Nach einem Wettbewerb wurde der Architekt Paul Schmitthenner (1884-1972), der seit 1918 Professor für Baukonstruktion und Entwerfen an der TH Stuttgart war, mit dem Aufbau betraut. Seine Pläne – wie auch die anderen Wettbewerbsentwürfe – sahen einen abstrahierten Wiederaufbau vor: Die äußere Gestalt des Alten Schlosses, insbesondere in seinen Dachbereichen, sollte vereinheitlicht und vereinfacht werden.
Finanzielle Unterstützung für die Wiederherstellung kam vom „Ausschuß für die Volksspende zum Wiederaufbau des Alten Schlosses“. Bevor die Baumaßnahmen abgeschlossen waren, wurde das Alte Schloss im Zweiten Weltkrieg, insbesondere durch den Angriff vom 26. Juli 1944, erneut zerstört. Ein zweiter Wiederaufbau, der abermals nach Entwürfen von Schmitthenner erfolgte, dauerte bis ins Jahr 1969.