Bartoszyce leżą na dawnych terenach pruskiego plemienia Bartów. Po poprzednich mieszkańcach tych ziem pozostały jedynie dwa granitowe posągi, które nazywane są Babami lub Bartkami. Z posągami wiąże się wiele miejscowych legend. Według podań jeden z posągów, Bartel, był pruskim księciem zamienionym w kamień przez złego czarownika. Drugi posąg to Gustebalda, księżniczka, którą Rybi Król zamienił w kamień gdyż zdradziła jego tajemnicę.

Baby kilkakrotnie zmieniały miejsce. W 1796 roku przeniesiono je na rynek, w XIX wieku przeniesiono je na Górę Zamkową. Gdy w 1902 roku wybudowano tam siedzibę starostwa posągi przeniesiono na skrzyżowanie obecnych ulic Bohaterów Warszawy i Marii Skłodowskiej-Curie, gdzie do dziś można je podziwiać.