Išlikęs ir klebonijos pastatas - ne tik horizontaliu tūriu išsiskiriantis baroko stiliaus architektūros, bet ir Pabiržės krašto kultūros istorijos paminklas. Šioje klebonijoje gyveno lietuvių raštijos veikėjas, Pabiržės pradinės mokyklos mokytojas, vyskupo M. Valančiaus bendramokslis, kunigas kanauninkas Tadas Lichdziejauskas (palaidotas Daumėnų kapinėse), iš Krinčino atvažiuodavo jaunas kunigas ir poetas Antanas Vienažindis.
1906 - 1908 metais ten gyveno ir dirbo poetas Juozas Šnapštys - Margalis, apie kurį senieji pabiržiečiai pasakodavo, kad kadaise Pabiržėje buvęs kamendorius, mokėjęs gražias dainas sudėti ir veltui žmones gydęs, už tą pasiaukojimą buvęs įskųstas žandarams kaip įtartinas ir neištikimas caro vyriausybei. Čia yra gyvenęs ir kunigas poetas Jurgis Tilvytis - Žalvarnis.
Jau vėliau, nepriklausomos Lietuvos metais, lankydavosi senojoje klebonijoje ir iš Gulbinų kaimo kilęs kunigas Jonas Petrėnas, mokęsis Biržų gimnazijoje kartu su poetais Bernardu Brazdžioniu ir Leonardu Žitkevičiumi, redagavęs laikraščius, rašęs straipsnius, recenzijas, išlikęs jį pažinojusių žmonių atmintyje kaip šviesus ir dvasingas kunigas.