Pomnik stanął przed budynkiem dyrekcji SP ZOZ, przy ul. 24 Kwietnia, obok miejsca, gdzie mieściła się ukończona w 1884 r. piękna, neoromańska synagoga, którą w 1938 r., podczas nocy kryształowej podpalili niemieccy naziści. Ma on też przypominać o Żydach mieszkających w Koźlu, zgładzonych w czasie Holocaustu.