Pasak projekto vadovės Margaritos Rukšienės, rekonstruojant XVIII a. medinės architektūros pastatą numatyta įrengti šiuolaikines šildymo, vandentiekio, nuotekų tinklų ir vėdinimo sistemas, pakeisti grindų, vidaus sienų ir lubų dangas. Pagal istorinius šaltinius planuojama atkurti autentišką Paberžės dvaro grindų parketą ir lubas ekspozicijų salėse, pakeisti dvaro duris, langus ir malksnomis apdengti stogą. Projekte taip pat numatyta šiuolaikiškai įrengti palėpės erdves ir jas pritaikyti konferencijų, seminarų organizavimui. Rekonstruotame muziejuje bus daugiau galimybių rengti kultūrinius renginius, simpoziumus, dailininkų plenerus. Pritaikytose salėse bus patogu eksponuoti menininkų darbus. Planuojama įkurti nuolatinę sakralinių ir liturginių daiktų ekspoziciją.
1863 metų sukilimo muziejus Paberžės kaimelyje, baronų Šilingų dvare, veikia nuo 1993 metų ir yra Kėdainių krašto muziejaus padalinys. Unikalaus muziejaus ekspozicija pasakoja apie 1863 metų sukilimo eigą, jo numalšinimą, caro represijas.
XIX a. dvare dažnai pietaudavo ir tardavosi apie sukilimo organizavimą kunigas Antanas Mackevičius ir Stanislovas Šilingas. Būtent čia kunigas Antanas Mackevičius suformavo vieną iš pirmųjų Kauno gubernijoje 250 sukilėlių būrį ir 1863 metų kovą stojo į atvirą kovą su carine valdžia.
Muziejų supa gražus parkas, kuriame yra tautodailininko Genriko Galvanausko sukurtos medžio skulptūros, skirtos Paberžės apylinkėse žuvusiems sukilėliams.
Šalia dvaro rūmų stovi graži medinė Švč.Mergelės Marijos Apsilankymo bažnyčia, kurios interjerą puošia žymaus dievdirbio V.Svirskio kryžiai ir altorius, o senojoje Paberžės klebonijoje, statytoje 1787 metais, ir svirne nuolat veikia unikalus kunigo Mykolo Dobrovolskio muziejus. Jame saugomi bažnytinio meno relikvijų, metalo, skulptūros ir tapybos darbų rinkiniai.