«Музей історії міста Києва» було створено 14 листопада 1978 року та відкрито у першому кварталі 1979 року в «Будинку Петра I» на Подолі (вул. Костянтинівська, 6/8). Музейне зібрання на той час складалося з археологічних матеріалів, переданих Інститутом археології Академії наук УРСР, етнографічної та нумізматичної колекцій, колекції ікон, стародруків, поштових листівок, подарунків від підприємств, установ та мешканців Києва. За короткий проміжок часу фонди музею збільшилися до 36 тисяч одиниць.