Gaden har som mange andre på Vesterbro navn efter lokaliteter i Nord- og Sydslesvig.
Sankelmark er en landsby i Sydslesvig. Her fandt et slag sted under den danske hærs tilbagetog fra fæstningen Danevirke i 1864.
Sankelmarksgade fik sit navn i 1886.
Omkring hvor Sankelmarksgade går i dag, lå i 1700-tallet et pesthus, hvor pestsmittede kunne isoleres. Huset blev i 1770 omdannet til en restauration, der fik navnet Belvedere, som betyder en smuk udsigt på italiensk.
Belvedere lå næsten ved kysten ud til Kalveboderne.
Helt ude i vandet blev der indrettet en badeanstalt, der også bar navnet Belvedere.
Stedet har i nyere tid givet navn til Belvederekanalen og Belvederekaj.