Gaden blev anlagt i 1700-tallet, efter at voldanlægget omkring Christianshavn blev udvidet. Gaden har også heddet Møllegade.
Indtil da var Store Søndervoldstræde byens grænse mod sydøst.
Det høje, hvide pakhus i Lille Søndervoldstræde 3 blev opført til Daniel Løweners jernstøberi (se nærmere under Store Søndervoldstræde).
Ud mod Dronningensgade ligger en nyere bygning, som blev opført i 1960’erne som filmsal for Den Danske Filmskole.
