Siden 1700-tallet havde Københavns Universitet et samling af mineraler. Den havde til huse flere steder i byen, og blev suppleret med forskellige private samlinger.
Først i 1893 fik samlingen sin egen bygning i det nordøstlige hjørne af Botanisk Have. Den er tegnet af arkitekten Hans J. Holm (1835-1916).
Museet har haft forskellige navne, f.eks. Mineralogisk-Geognostisk Museum, men hedder i dag Geologisk Museum og en del af Statens Naturhistoriske Museum.