Gaden har navn efter Københavns hovedvagt, der lå ud til Kongens Nytorv. Bygningen ses til venstre på illustrationen herunder.
Her var den københavnske borgervæbnings vagstue, og korpsets øverstkommanderende havde bolig i hovedvagten. Men der var også detention, som blev brugt til at “indkvartere” lovovertrædere og ordensforstyrere.
Imellem Hovedvagtsgade og Ny Adelgade ligger i dag en trekantformet bygning, på det sted, hvor den gamle hovedvagt lå.
I 1870’erne opførtes et fornemt kvarter omkring den mondæne Østergade. Det erstattede de usunde boliger, der havde ligget i områdets snævre gyder, blandt andet Peter Madsens Gang.
I 1874 blev hovedvagten revet ned.
Kun uret er bevaret, og sidder i dag i Kongeporten på Kastellet.