Paberžės dvaras įkurtas prieš kelis šimtmečius, o jo šeimininkai Šilingai žinomi tik nuo XVIII a. pab. – XIX a. pr., kada jie pasistatė iki šiol išlikusius dvaro rūmus. Spėjama, kad rūmai pastatyti 1793 m. Dvaro rūmai mediniai, pailgo, stačiakampio plano, pailgintų proporcijų, dvigaliai. Daugelį kartų remontuoti, bet išlaikyta pirminė eksterjero išvaizda. Fasado centrinėje dalyje įrengtas prieangis, kuris ne tik puošė pastatą, bet ir saugojo įėjimą nuo kritulių. Iš prieangio abiejų pusių fasaduose yra po keturis stačiakampius langus su šešetu stiklų, su apvadais, namo galuose – po tris langus. Iki šiol išlaikytas dvigalio pastato simetrinis planas. Pastate buvo 15 kambarių, kamara, virtuvė. Grindys dviejuose kambariuose buvo parketo, kituose – dažytų lentų. Lubos tinkuotos. Kiti dvaro pastatai neišlikę.1993 m. Kėdainių rajono savivaldybės rūpesčiu Paberžės dvare duris atvėrė 1863 m. sukilimo muziejus.
