Das erste bekannte Grabfeld reicht zurück bis ins 8. Jahrhundert nach Christus und befand sich im Gelände der ehemaligen Kaiserpfalz. Der Friedhof lag bei der im 13. Jahrhundert errichteten Stiftskirche und bestand bis ca. 1580. Danach wurde ein neuer Friedhof Ecke Mannheimer Straße/Albrechtstraße angelegt. Er bestand nach seiner Erweiterung 1677 bis Anfang des 19. Jahrhunderts. 1834 erfolgte die Verlegung in die Friedenstraße, der Bau einer Leichenhalle folgte. Wegen mangelnder Erweiterungskapazitäten beschloss man 1873 den heutigen Hauptfriedhof am Kahlenberg anzulegen. Die erste Beisetzung fand 1874 statt. Der Hauptfriedhof wurde um den Jüdischen Friedhof von 1858 und den Kriegerfriedhof von 1870 angelegt. Es folgten mehrere Erweiterungen in den folgenden Jahren. Nach diesen Erweiterungen verlegte man vorübergehend den Haupteingang in die Mannheimer Straße. Dieser bis 1918 angelegte historische Teil des Friedhofes ist heute noch mit einer Mauer umgeben und ist als Denkmalzone ausgewiesen. Der Waldfriedhof wurde 1912 nach Entwürfen von Hermann Hussong angelegt. Die Friedhofskapelle wurde 1903 bis 1905 errichtet und 1981 bis 1984 umgebaut und erweitert. Es befinden sich einige denkmalgeschützte Gebäude und Grabsteine auf dem Friedhof. Nach erfolgreicher Restaurierung des Löwenbrunnens, die aus der Privatinitiative einiger Bürger hervorging, ist ein schöner Platz zum Ausruhen entstanden. Mit Einweihung des Friedenbrunnens am 19.08.2020 wurde die Brunnenachse vervollständigt. Die repräsentative Freifläche mit dem angrenzenden Waldfriedhof verstärkt den Landschaftscharakter. Der Friedhof ist ein Ort der Ruhe und Besinnlichkeit. Viele Grabstätten können bei einem Spaziergang durch den Friedhof angeschaut werden.
 

Ehrenfriedhof für die Gefallenen des Krieges 1870/71

Gusseiserne Kreuze auf Sandsteinsockeln, links daneben ein 1876 von Jakob Menges angefertigtes Kriegerdenkmal für die Opfer des deutsch-französischen Krieges 1870/71. Ein Sandsteinsockel mit den Namen der Toten wird überragt von Germania, geschmückt mit Schwert und Siegerkranz.

Ehrenfriedhof

Eine gestufte Anlage mit 3 Terrassen, in deren Zentrum ein Denkmal aus rotem Sandstein steht. Der Ehrenfriedhof gedenkt der Gefallenen beider Weltkriege.
 

Feld für russische Opfer des Faschismus

1950 angelegtes Ehrenfeld für die russischen Opfer des Faschismus. In der Mitte befindet sich ein Denkmal in Würfelform mit kyrillischer Inschrift.

Jüdischer Friedhof

Als im Jahre 1858 Maximilian Fröhlich starb, war er der erste Bürger, der auf dem neu eingerichteten jüdischen Friedhof beerdigt wurde. Dieser jüdische Friedhof ist sozusagen die "Keimzelle“ des heutigen Hauptfriedhofes, welcher sich ab 1873 unmittelbar daneben entwickelte. Im Jahr 2008 war das historische Areal belegt. Deshalb ist zwischenzeitlich an anderer Stelle des Hauptfriedhofes ein neues Friedhofsfeld für die jüdische Kultusgemeinde ausgewiesen und zum Teil erschlossen worden. Die erste Belegung erfolgte im Jahr 2009.