Tamo je do g. 1893. bilo postavljeno raspelo s kipom Krista prema kojemu se trg nazivao Kipni. Od te je godine Hermann Bollé u suradnji s Obrtničkom školom i tvrtkom »Šafranek-Wiesner« izradio i nadzirao radove na gradnji šesterokutne neogotičke kapele s dva ulaza koja su zaštićena vratima od kovana željeza. Iste godine za blagdan Svih svetih kapela je bila posvećena. Ona je bila donacija Terezije Spitaler, nećakinje tadašnjega župnika Stjepana Pogledića iz pripadajuće župe sv. Marka evanđelista s Gornjega grada.
Okolo kapele zasađen je mali perivoj s prilaznim putom i zdencem. U prepoznatljivom Bolléovu stilu kapela je zidana opekom i masivnim kontraforima koji drže šesterostrane zidove. Bočne stranice završavaju gotičkim ukrasima i uzdižu se do rubnoga vijenca i piramidalnoga krovišta. Na središnjem stupu, koji odjeljuje dva ulazna prostora, postavljen je kameni kip sv. Stjepana kralja s mačem i krunom.
Ispod križnoga stropa, koji je ukrašen zvjezdanim nebom i lisnim motivima, na začelnom zidu nalazi se kalvarijska scena s Raspetim, Bogorodicom i sv. Ivanom. Ispod sv. Križa je uski kameni oltarni stol, a bočni zidovi oslikani su ornamentikom Kristova monograma (IHS). Dva zida uz ulaze imaju dugačke uske ostakljene prozore s raznobojnim staklima.
Kapela je obnovljena zaslugom župnika župe sv. Marka mons. Franje Prsteca i blagoslovio ju je biskup Ivan Šaško 2. srpnja 2016. Na obnovi su radili ak. kipari Vladimir Herljević i Zvonimira Obad, restauratorice Iva Prpić i Dubravka Uvodić-Vinković te obrtnik Huzjak.
