Am 14. Januar 1873 fanden im Rahmen der Eröffnung des Pragfriedhofs (Centralfriedhof auf der Prag) die ersten beiden Beisetzungen statt. Im Neuen Tagblatt vom 16. Januar 1873 wird berichtet, dass Geistliche beider Konfessionen die Einsegnung des Friedhofs vornahmen und je ein Verstorbener der protestantischen und der katholischen Konfession angehörten. Dies ist als ausdrücklicher Hinweis auf die städtische Trägerschaft zu verstehen, damals eine Neuerung im Friedhofswesen. Anwesend waren der Stuttgarter Gemeinderat und Oberbürgermeister Friedrich Hack sowie Königin Olga. Zu diesem Zeitpunkt war der Eingangsbereich an der Friedhofsstraße mit Wartehalle, Leichenhaus und Kapelle noch nicht errichtet. Die Gräber lagen sozusagen noch auf dem freien Feld.
Mit dem Bevölkerungswachstum Stuttgarts ab der Mitte des 19. Jahrhunderts erhöhte sich auch die Anzahl der Todesfälle, so dass die ursprünglich vorgesehenen Flächen auf dem Hoppenlau- und dem 1823 angelegten Fangelsbachfriedhof nicht mehr ausreichten. Kalkulierte man Anfang des 19. Jahrhunderts noch mit 650 Todesfällen jährlich, waren es 1873 bereits über 2.500 – zu dieser Zeit hatte Stuttgart eine Einwohnerzahl von über 100.000 erreicht. Vorausschauend forderte die königliche Gesundheitsverwaltung 1866 die Neuanlage eines Friedhofs und die bürgerlichen Gremien beschlossen schließlich am 27. Januar 1870 nahe der Gemarkungsgrenze zu Cannstatt einen „Central-Friedhof“ anzulegen. 1872 erwarb die Stadt Stuttgart das 13 Hektar große Gelände zwischen dem künftigen Eckartshaldenweg (1906 benannt), der Bahnhofstraße (die spätere Heilbronner Straße), der 1878 angelegten Friedhofstraße und dem künftigen Bogen der Gäubahn (ab 1879). Damit entstand in Stuttgart erstmals ein Friedhof in städtischer Trägerschaft, in deren Folge 1891 die städtische Friedhofsverwaltung eingerichtet wurde. Bis 1898 wurden weitere, sich nördlich anschließende Flächen erworben, so dass der Friedhof bis heute eine Größe von gut 20 Hektar hat.
Der spätere Gartenbaudirektor Adolf Wagner (1817-1893) plante die Anlage des neuen Friedhofs. Zentrales Element bildeten zwei Achsen in Kreuzform, die Hauptachse senkrecht zur Friedhofstraße, parallel dazu die Querachse, diese Achsen waren als Kastanienalleen betont. Die vier großen Felder wurden durch schmälere Wege in kleinere rechtwinklige Bestattungsfelder unterteilt. In der ursprünglichen Planung erhielt die Anlage eine parkähnliche Umfassung mit organisch geformten Wegen. Wegen des ständig steigenden Platzbedarfs bezog man auch diesen Bereich später in die streng geometrische Struktur ein.
1873 lag die Planung von August Beyer (1834-1899) für die Friedhofsbauten entlang der Friedhofstraße vor und wurde dem „Verein für christliche Kunst“ zur Begutachtung übergeben. Zu den gewünschten Veränderungen erarbeitete Baurat Adolf Wolff (1832-1885) Anfang 1874 Vorschläge, die dem Gemeinderat zur Annahme empfohlen wurden. So wurde beispielsweise der Abstand zwischen Eingangshalle und Kapelle um eine Achse vergrößert und die Dächer des östlichen Verwaltungsbaus und der westlichen Leichenhalle so angesetzt, dass auch im Obergeschoss Räume ohne Dachschrägen entstanden. Am 5. März 1874 beschloss der Gemeinderat die Ausführung und die Beauftragung von August Beyer. Genaue Fertigstellungstermine sind nicht überliefert, aber es kann aufgrund von veröffentlichten Gebührenordnungen davon ausgegangen werden, dass die Gebäude spätestens 1876 fertig waren. Die Leichenhalle war der erste derartige Bau in Stuttgart. Bereits 1836 hatte sich ein „Verein zur Erbauung eines Leichenhauses“ gegründet, da zu dieser Zeit das Problem der Beerdigung Scheintoter thematisiert wurde. Die Umsetzung des Projektes wurde aber trotz vorhandener Mittel unterlassen, da damals die Aufbahrung der Verstorbenen bei der Familie noch gebräuchlich war.
1890/91 erfolgte der erste Umbau: Die Kapazitäten der Kapelle reichten nicht für die großen Trauergemeinden aus und so wurde die Verglasung des Arkadenganges und der an die Kapelle anschließenden Arkaden als Erweiterung der Kapelle beschlossen. Gleichzeitig wurde eine neue Arkadenreihe vorgeblendet, so dass die Ansicht von der Straßenseite aus ähnlich blieb. Wenig später war eine neue Leichenhalle erforderlich, da auch hier die Kapazitäten falsch eingeschätzt worden waren. Erste Planungen sahen den Standort am gegenüberliegenden Ende der Hauptachse, die mit der Kapelle begann, vor. Dieser Ort wurde aber zwischenzeitlich für das geplante Krematorium reserviert, so dass man die neue Leichenhalle westlich der Hauptachse anordnete. Das ebenfalls im Stil der Neogotik von Bauinspektor Albert Pantle (1859-1921) entworfene Gebäude konnte 1896 der Nutzung übergeben werden. Die Friedhofsverwaltung übernahm den frei gewordenen Bau an der Friedhofstraße.
Die nächste große Veränderung erfuhr der Pragfriedhof durch die Errichtung des Krematoriums mit Kolumbarium 1905 bis 1907. Bereits seit 1874 gab es den „Württembergischen Verein für Feuerbestattung in Stuttgart und Umgebung“, der versuchte, auf dem Gelände des neuen Friedhofs einen Bauplatz zu erwerben. Allerdings ließ die Gesetzeslage in Württemberg den Bau eines Krematoriums noch nicht zu. 1890 kam es dann auf Betreiben von Hofrat Dr. August Deahna (1850-1917) zur Gründung des „Vereins für fakultative Feuerbestattung in Stuttgart“, der sich intensiv für die Durchsetzung der Feuerbestattung in Württemberg einsetzte und Geld für die Errichtung eines Krematoriums in Stuttgart sammelte. 1902 stellte dann Wilhelm Scholter (1859-1915) sein Projekt für ein Kolumbarium und ein später zu ergänzendes Krematorium vor. Der Entwurf setzte sich mit seiner neobarocken, zur Moderne überleitenden Formensprache stilistisch ausdrücklich von der Neogotik der bestehenden Friedhofsbauten ab. Für die Krematoriumsarchitektur gab es keine Vorbilder und so suchten die Architekten würdige Formen, die sich nicht an christlich geprägten Stilen orientierten, da sich unter den Verfechtern der Feuerbestattung viele Atheisten und Nicht-Christen befanden. Die Urnenbeisetzung war zum Thema geworden, da viele Stuttgarter die Krematorien im Großherzogtum Baden nutzen und dennoch eine Beisetzung in Stuttgart wünschten. In Baden konnten seit 1890 die städtischen Behörden den Bau von Krematorien genehmigen. In Württemberg fiel das Verbot der Feuerbestattung dagegen erst am 28. November 1904 und in Heilbronn, Ulm und Stuttgart konnten die Bauanträge genehmigt werden. Baubeginn für den Jugendstilbau von Scholter war im Herbst 1905, die Einweihung konnte am 6. April 1907 gefeiert werden. Mit der Fertigstellung ging das Krematorium, wie vorher vertraglich geregelt, in den Besitz der Stadt Stuttgart über und wird seither von ihr betrieben.
Während der Bombardements im Juli 1944 wurde der Pragfriedhof mehrfach getroffen. Der Eingangsbereich und die Kapelle waren stark beschädigt, das Krematorium musste den Betrieb einstellen, auch Grabfelder und Bäume wurden zerstört. Angesichts der Zerstörungen stand schnell die Idee des Abrisses der in der Nachkriegszeit ungeliebten historistischen Architektur im Raum. Die Kapelle wurde vereinfacht wiederaufgebaut und im Juli 1953 fertiggestellt, die Arkaden des Eingangsbereichs dagegen zugunsten einer verbesserten Parkierungssituation abgerissen, ebenso die Grüfte. Die flankierenden Verwaltungsbauten wurden wegen der kalkulierten hohen Kosten für die Neubauten schließlich doch saniert.
1970 wurde die Diskussion der Nachkriegszeit um eine größere Feierhalle und ein größeres Leichenhaus anlässlich einer schweren Grippewelle wieder aufgenommen. Die Architekten Max Bächer (1925-2011) und Harry G. H. Lie (geb. 1929) erhielten den Auftrag, ein Gutachten zur Behebung der Missstände zu erstellen. 1975 errichtete man zunächst ein Provisorium und erst 1980 konnte mit der baulichen Umsetzung des Entwurfs von Bächer und Lie begonnen werden. Besonders aufwendig war die Unterfangung der Kolumbariumsflügel, um darunter die neuen Feierhallen, die Aufbahrungsräume und etliche weitere Räume unterzubringen. Das Bauvorhaben gliederte sich in zwei Bauabschnitte von 1980 bis 1984 und 1987 bis 1992 und kostete ca. 30 Millionen DM. Seit 1980 steht das Krematorium als Kulturdenkmal von besonderer Bedeutung unter Schutz.
Israelitischer Teil
Der israelitische Friedhof wurde im Zusammenhang mit dem Pragfriedhof, südöstlich angrenzend, angelegt, aber in typischer Weise durch Zäune und Mauern abgetrennt. Die Planungen für den israelitischen Teil verliefen parallel zu denen des Zentralfriedhofs. Mit einem Vertrag vom 9. November 1876 erhielt die israelitische Gemeinde von der Stadt Stuttgart unentgeltlich eine Fläche von knapp 47 Ar und erwarb einen weiteren Teil von knapp 99 Ar. 1879 wurde die Kapelle nach Plänen von Adolf Wolff gebaut. Wolff hatte 1861 nach dem Tod von Gustav Adolf Breymann (1807-1859), aus dessen Feder der Entwurf stammte, die Stuttgarter Synagoge in der Hospitalstraße vollendet. Außerdem hatte er die Gewerbehallen im Stadtgarten gebaut und war an der Erweiterung des ersten Stuttgarter Bahnhofs beteiligt. Albert Pantle baute 1904 als Erweiterung eine Leichenhalle. 1944 wurde die Kapelle bei den Luftangriffen zerstört, dennoch fanden bis Anfang 1945 Bestattungen statt. Seit 1940 wird von jüdischen Stuttgartern vor allem der Israelitische Friedhof neben dem Hauptfriedhof genutzt, eine Ausnahme machen alteingesessene Stuttgarter Familien.
1946/47 wurden umgestoßene Steine wieder aufgerichtet und die Beschriftungen erneuert, da 1940 die Metallbuchstaben als „Reichsmetallspende“ entfernt worden waren. Eine grundlegende Instandsetzung fand 1964 bis 1966 statt, nachdem der Friedhof wegen umstürzender Grabsteine als „verkehrsunsicher“ eingestuft worden war. Der Friedhof ist bis heute im Eigentum der Israelitischen Religionsgemeinschaft Württembergs, die Pflegearbeiten werden hälftig von Bund und Land getragen.