Gaden er anlagt i 1680’erne og hed dengang Lille Adelgade.
I 1700-tallet skiftede den navn til Ny Adelgade, for at kunne skelne den fra Adelgade i den nye bydel, Ny-København.
I en periode i 1700-tallet kaldtes gaden også for Lille Grønnegade, fordi den støder op til Grønnegade. På det tidspunkt lå i Ny Adelgade 10 det lille Grønnegadeteater.
Pestepidemien i 1711 siges at være startet i et hus i Lille Grønnegade, hvor sygdommen muligvis startede med en skomagersvend fra Helsingør som det første offer. Pestepidemien betød, at der måtte anlægges en hel kirkegård til de pestramte i Fiolstræde.