Nakon 1848. godine Pula je izabrana za glavnu ratnu luku Austro-Ugarske. Ubrzo se pojavila potreba za zasebnim grobljem na kojem će se ukapati umrli ili poginuli mornari, časnici i članovi njihovih obitelji. Za gradnju groblja otkupljena je parcela od četiri tisuće četvornih metara između Valkane i buduće crkve Gospe od Mora ispod brda sv. Polikarpa. Kasnije je prostor groblja povećan na 22 tisuće kvadrata. Na njemu je postavljena mala jednobrodna kamena kapela sv. Nikole s preslicom, pročelnim i bočnim prozorima, koja se jednostavnošću uklapa u okoliš. Na groblju su pokopani pripadnici raznih nacionalnosti i vjera pod okriljem monarhije, ali i onih koji su poginuli na neprijateljskim stranama.
Zahvaljujući obnovi groblja od 1989. do 1991. sredstvima Grada Pule, austrijskoga Crvenoga križa i njemačkoga Pučkoga saveza za brigu o ratnim grobljima, uređeni su grobovi siromašnih mornara bez imena, 13 austrijskih i jednoga turskoga admirala te mornara i vojnika monarhije poginulih u Prvom svjetskom ratu. Ondje su i grobovi 316 njemačkih vojnika poginulih u Drugom svjetskom ratu te Talijana iz obaju ratova. Na groblju su spomenobilježja za hrvatske, austrijske, njemačke, bošnjačke, mađarske i talijanske vojnike, mornare i posade slavnih bojnih brodova »Szent Istvan« i »Viribus unitis«. Jednu spomenploču postavili su »Hrvatski domobran« i Hrvatski časnički zbor. Na spomenploči kapele sv. Nikole ime je hrvatskoga admirala Janka Vukovića Podkapelskoga, koji je kao zapovjednik »Viribus unitisa« 1. studenoga 1918. junački poginuo.
Spomengroblje u Puli smatra se jednim od najljepše uređenih ratnih groblja u Europi. Otvoreno je i blagoslovljeno prigodom prvoga zajedničkoga ukopa 35 pokojnika 2. listopada 1862. Kasnije su se obavljali pojedinačni ukopi. Kolika je bila važnost Pule za monarhiju pokazuje podatak da ju je car Franjo Josip I. posjetio jedanaest, a njemački car Vilim II. šest puta.
