Kraštotyros muziejui priklauso ir gausiai lankomas seniausias miesto pastatas Kranto gatvėje – buvęs Upytės pavieto teismo arhyvas, pastatytas 1614 m. Tai seniausias išlikęs archyvo pastatas Lietuvoje. Jame veikia originali istorinė ekspozicija „Upytės bajorai". Akivaizdžiai susipažinsite su garsiuoju užkeikto Čičinsko dvaro savininku.