Nors pirmasis pasaulyje miesto muziejus buvo įsteigtas 1866 m. Paryžiuje, tokių muziejų kūrimo banga Vakaruose nusirito XX a. pradžioje. Vilniaus muziejaus idėja taip pat buvo savalaikė – muziejaus ištakos siekia imperinį laikotarpį. Pirmasis žinomas Vilniaus miesto muziejaus paminėjimas datuojamas dar 1912 m., tačiau įgyvendinti idėją imtasi tik tarpukariu.
Praėjusio amžiaus trečiojo ir ketvirtojo dešimtmečių sandūroje grupė anuomet lenkiško Vilniaus intelektualų, miesto mylėtojų bei akademikų nutarė įkurti miesto muziejų. Atrodė, kad tokio muziejaus idėja jau greitai taps realybe: 1929, 1930 ir 1933 m. spaudoje skelbta, kad Magistratas miesto muziejaus įkūrimui planuoja skirti 10 tūkst. zlotų. Svarstytos įvairios galimybės, kur galėtų veikti muziejus – nuo Vilniaus rotušės iki Sluškų rūmų ar dalies Pranciškonų vienuolyno Trakų gatvėje, kur tuo metu veikė archyvas. Būtent čia tapytojas Ferdynandas Ruszczycas matė būsimą muziejų.
Vilniaus miesto muziejaus pradžia galima laikyti 1933 m. kovo 15-ąją. Tądien posėdyje pas Vilniaus miesto prezidentą (merą) Wiktorą Maleszewskį buvo svarstomas Vilniaus miesto muziejaus įkūrimas. Posėdyje dalyvavo Vilniaus mylėtojų draugijos pirmininkas Janas Bułhakas, Mokslo mylėtojų draugijos muziejaus kuratorius Michałas Brensztejnas, vaivadijos konservatorius Stanisławas Lorentzas ir kiti.
Tuo metu dėl lėšų trūkumo miesto entuziastų vizija nebuvo įgyvendinta, tačiau po kelerių metų, 1939-aisiais, miesto muziejui Magistratas įsigijo pastatą šiandienėje K. Sirvydo gatvėje. Miesto muziejui įgavus apčiuopiamą pavidalą visuomenė ėmė gausiai dovanoti muziejui meno kūrinius.
Taip pradėtas rinkti muziejaus rinkinys, kaupti su sostinės istorija susiję artefaktai, tačiau, prasidėjus Antrajam pasauliniam karui, durų muziejus taip ir neatvėrė. Vilniaus miesto muziejaus idėja nuolat tai iškildavo, tai pradingdavo, tad nuo pirmųjų bandymų įkurti vilniečiams ir nuolat besimainančiam miestui skirtą instituciją tokio muziejaus teko laukti kone šimtą metų.
Pamatus dabartiniam muziejui padėjo 2018 m. Vilniaus tyrėjų – menotyrininkės, kultūros vadybininkės dr. Rasos Antanavičiūtės, architektūros istorikės dr. Marijos Drėmaitės ir istoriko dr. Karolio Kučiausko – publikuota Vilniaus miesto muziejaus-tyrimų centro galimybių studija.
Įkurti Vilniaus muziejų paskatino artėjanti apvali sukaktis: 2023-iaisiais Vilnius mini jubiliejų – miesto rašytinio paminėjimo 700 metines.
Pagaliau Vilnius turi ilgai lauktą muziejų. Šitaip prasideda naujas miesto muziejaus istorijos etapas.