Muzeum mieści się w dawnym Pałacu Biskupim przy Placu Katedralnym. Eksponaty znajdujące się w muzeum stanowią przedwojenne zbiory katedralne, zabytki archeologiczne oraz zdobycze z przypadkowych odkryć. Pomysł na utworzenie muzeum powstał w 2004 roku z inicjatywy społecznych opiekunów zabytków oraz Towarzystwa Miłośników Ziemi Kamieńskiej. Oficjalnie zostało powołane do życia w 2009 roku. A od 2015 roku siedzibą Muzeum jest, budynek znajdujący się na tzw. Kwartale Dominikańskim w bliskim sąsiedztwie Osiedla Katedralnego oraz kapitularz katedry kamieńskiej, gdzie prezentowana  jest stała wystawa zabytków sakralnych i archeologicznych.

Na zbiory MZHK składają się bezcenne zabytki sztuki pomorskiej jak m.in.: XVII-wieczne balustrady z kościoła w podkamieńskim Jarszewie, XVIII-wieczna rzeźba anioła z ołtarza ambonowego ze zburzonego w latach 1954-1955 kościoła w Benicach czy średniowieczne naczynia tzw. grapeny. Dodatkowo liczne zabytki archeologiczne będące efektem prac prowadzonych na terenie miasta, niezwykle cenne szklane negatywy prezentujące niemiecki Kreis Cammin z początków XX wieku autorstwa pioniera kamieńskiej fotografii Adolfa Bartelta, butelki z przedwojennego browaru rodziny Voerkeliusów, fotografie pokazujące powojenny Kamień czy wstęgę z otwarcia 9 maja 1969 r. odbudowanego ze zniszczeń wojennych Ratusza Staromiejskiego.