Muziejus įkurtas 1793 metais statytame vokiečių kilmės barono Stanislovo Šilingo dvare. Čia dažnai pietaudavo ir tardavosi apie sukilimo organizavimą Antanas Mackevičius ir Stanislovas Šilingas, rėmęs 1863 m. sukilimą. Eksponatai primena 1863 m. sukilimą, jo eigą bei numalšinimą. Čia išvysite sukilėlių ginklų, asmeninių daiktų, dokumentų. Eksponuojami žymiausių Lietuvos grafikų bei tapytojų dailės kūriniai, atspindintys sukilėlių kovas bei įamžinantys jų atminimą. Šalia 1863 m. sukilimo muziejaus – Paberžės bažnyčia, statyta liaudies meistrų, o rekonstruota 1858 metais A. Mackevičiaus pastangomis. Čia saugomi bene žymiausio lietuvių dievdirbio Vinco Svirskio kryžiai ir altorius. Bažnyčioje, senojoje klebonijoje, statytoje 1787 metais bei svirne išvysite unikalias Tėvo Stanislovo ,,saugotuves – bažnytinio meno, metalo plastikos, skulptūros, tapybos ir kt. rinkinius.”””