Fondato nel 1873 è costituito nel nucleo originario dalla donazione di 32 quadri fatta alla città di Belluno nel 1872 da Antonio Gianpiccoli, arricchita dalle raccolte di bronzi (medaglie, placchette, monete, sigilli) e di libri (manoscritti e stampati di interesse locale) lasciate dal conte Carlo Miari.
Fino al 1903 il fondo venne ampliato con ulteriori donazioni di cittadini bellunesi. Nel 1909 Rodolfo Protti iniziò a riordinare il museo.
Si riunirono per la prima volta le raccolte di oggetti preistorici della necropoli di Cavarzano e i reperti romani, furono esposti i frammenti superstiti della Caminata (Palazzo del Consiglio dei Nobili) e sistemati placchette, sigilli, bronzi ed incisioni.
Dopo un lungo periodo di chiusura dovuto alla necessità di catalogare le nuove collezioni e donazioni, il museo venne riaperto nel 1960, ma solo nel 1980 venne definitivamente riorganizzata la disposizione delle opere del museo e costituita la sala dove sono raccolte le opere di Sebastiano Ricci, acquistate nel 1979.
Oggi il museo conta dodicimila oggetti, suddivisi in varie sezioni, riunite nelle due sezioni principali, quella preistorica e quella archeologica.