Cmentarz Rakowicki jest zarządzany razem ze znajdującym się po drugiej stronie ul. J. Prandoty cmentarzem wojskowym, na którym pochowani zostali żołnierze różnego pochodzenia, poległych na ziemiach polskich.
Powstańcy Styczniowi
21 stycznia 1919 r., w 56. rocznicę wybuchu powstania, otrzymali rozkazem Marszałka Piłsudskiego, honorowy tytuł poruczników-weteranów WP i prawo noszenia galowego munduru. Otrzymali też prawo do pochówku na nowo utworzonym cmentarzu wojskowym w Krakowie. Są to dwa niewielkie rzędy grobów w kwaterach 1 i 3, w których pochowano 17 powstańców. Ich groby mają jednolitą formę, a fundowane były przez Polskie Towarzystwo Opieki nad Grobami Bohaterów.
W pasie 106. znajduje się grobowiec-mauzoleum uczestników powstań śląskich i powstania wielkopolskiego.
I wojna światowa
Część austriackiego Cmentarza wojennego to kwatery 1, 2, 3, 4, główna część, dwie pozostałe kwatery, znajdują się na Cmentarzu Rakowickim. Z oryginalnego wyglądu cmentarza, projektu inż. Huperta, nie zachowało się prawie nic.
Podczas kilku przebudów cmentarza w latach 30. ubiegłego wieku, poprzestawiano krzyże nagrobne w ten sposób, że nie wiadomo właściwie do jakiej armii należą żołnierze leżący pod nimi. Pochowano na nim żołnierzy austro-węgierskich oraz rosyjskich poległych w latach 1914–1918, a ekshumowanych z przypadkowych miejsc pochówku w okolicach Krakowa oraz żołnierzy z garnizonu krakowskiego zmarłych w latach 1918–1939.
Wojna polsko-bolszewicka
Pomnik Krakowskich Orląt odsłonięty w 1926 roku upamiętnia krakowska mlodzież poległą w latach 1914-1920. Na tablicach znajdujących się na pomniku wymieniono uczniów kilkudziesięciu gimnazjów i seminariów nauczycielskich w Krakowie, w Białej, Chrzanowie, Gorlicach, Częstochowie, Jaśle, Miechowie, Kielcach, Myślenicach, Nowym Targu, Olkuszu, Ostrowcu, Radomiu, Sosnowcu, Solcu, Starym Sączu, Sandomierzu, Tarnowie i Wieliczce, Zawierciu.
II wojna światowa
Kwatera żołnierzy Wojska Polskiego
Po stronie lewej od wejścia na cmentarz, znajduje się kwatera żołnierzy Wojska Polskiego, którzy polegli we wrześniu 1939 roku w okolicach Krakowa. Pochowano tutaj 146 żołnierzy polskich. Upamiętnia ich pomnik będący dziełem Piotra Chwastarza, Henryka Olszówki i Grzegorza Kawczyńskiego. Odsłonięty został w 1990 roku. W 1993 roku złożono przy nim 52 urny z ziemią z pól bitewnych Armii Kraków oraz z Katynia, Ostaszkowa i Miednoje.
Kwatera żołnierzy Wspólnoty Brytyjskiej
Kwatera żołnierzy Wspólnoty Brytyjskiej znajduje się w zachodniej części cmentarza. Jest to jeden z trzech wojennych cmentarzy brytyjskich na ziemiach polskich. Prosty krzyż pośrodku kwatery, proste płyty nagrobne z nazwiskami, godłami pułków lub jednostek oraz pięknie utrzymana zieleń wyróżniają wszystkie wojenne cmentarze brytyjskie na całym świecie. Spoczywa tutaj 522 poddanych brytyjskiego monarchy: 360 żołnierzy, 128 lotników, 7 marynarzy, 24 osoby cywilne oraz 3 osoby nieznane. Polegli oni i zmarli w Polsce południowej, w czasie II wojny światowej, a po zakończeniu działań wojennych ich prochy zostały przeniesione do tej kwatery. Spoczywają tutaj m.in. jeńcy ze stalagu VIII B Lamsdorf i szpitala w Langenbielau oraz lotnicy z bazy w Brindisi, zestrzeleni nad Polską gdy lecieli ze zrzutami, by wesprzeć Powstanie warszawskie.
Kwatera żołnierzy radzieckich
Kwatera żołnierzy radzieckich znajduje się w północnej części cmentarza. W 156 mogiłach zbiorowych pochowano 1578 żołnierzy 59. i 60. Armii 1 Frontu Ukraińskiego poległych w ofensywie styczniowej 1945 roku. Upamiętnia ich krzyż prawosławny oraz pomnik autorstwa Leonarda Demarczyka. Tutaj przeniesiono w lipcu 1997 roku prochy 19 żołnierzy i pomnik (dzieło Karola Muszkieta) z cmentarza znajdującego się od 1945 na Plantach przy Barbakanie.
Kwatery żołnierzy niemieckich
Znajdują się obok kwatery żołnierzy polskich. Dwie kwatery, gdzie pochowano 2750 żołnierzy niemieckich poległych w latach 1939–1945, których upamiętniono w 1992 r. prostymi kamiennymi krzyżami i tablicą z napisem: w języku niemieckim ,,aus diesem friedhof ruhen 2750 deutsche soldaten des krieges 1939-1945 gedenket ihrer und der opfer aller kriege” oraz w języku polskim ,,tu spoczywa 2750 żołnierzy niemieckich wojny 1939-1945 dla ich pamięci i pamięci ofiar wszystkich wojen”.
W pobliżu, po drugiej stronie alejki znajduje się rząd mogił. Jest to grób 11 saperów z 13. Kołobrzeskiego Batalionu 6. Pomorskiej Dywizji Piechoty, którzy zginęli 13 maja 1946 roku na lotnisku Czyżyny, likwidując niewypały.
Pomnik ofiar komunizmu
Pomnik w formie krzyża trzymanego przez ludzkie dłonie to dzieło artysty rzeźbiarza Stefana Dousy. Odsłonięto go 55 lat od popełnienia zbrodni katyńskiej – 8 kwietnia 1995 roku.
Pomnik ofiar ukraińskiego ludobójstwa
Pomnik autorstwa prof. Akademii Sztuk Pięknych im. Jana Matejki w Krakowie Czesława Dźwigaja ma kształt otwartej księgi i składa się z dwóch skośnych względem siebie tablic połączonych spiżowym odlewem z brązu przedstawiającym ludzkie postacie. Na prawej płycie znajduje się zarys obszaru kresów południowo-wschodnich II RP wraz z niektórymi miejscowościami.
Pomnik upamiętnia polskie ofiary rzezi wołyńskiej. Napisy na postumencie głoszą: ,,Nie o zemstę, lecz o pamięć wołają ofiary, Ojczyzna to ziemia i groby – narody tracąc pamięć tracą życie, Dla narodowej pamięci oraz w hołdzie ofiarom ludobójstwa, którego dopuściły się w latach drugiej wojny światowej na Polakach – Organizacja Ukraińskich Nacjonalistów i Ukraińska Powstańcza Armia. W 61 rocznicę tej tragedii – Kraków 2004”.
Pomnik zlokalizowany jest przy południowo-zachodnim murze cmentarza Rakowickiego, w pasie nr 49, obok austriackiego cmentarza wojennego nr 388. Odsłonięto go 17 września 2004 w 61 rocznicę masowej rzezi Polaków zamieszkujących kresowe województwa Rzeczypospolitej Polskiej i w 76 rocznicę najazdu sowieckiego na wschodnie tereny II Rzeczypospolitej.