Navnet virker selvmodsigende, for i dag er Smallegade en forholdsvis bred gade.
Men navnet skal nok ses i sammenhæng med den (smallere) Frederiksberg Bredegade.
De to gader løb gennem den tidlige frederiksbergske bebyggelse, der lå mellem gadekæret ved Andebakkesti og et gadekær på pladsen foran Frederiksberg Rådhus.
På kortet herunder fra 1848 ses Smallegade i midten og Bredegaden nederst. Den øverste vej er Lampevejen, den nuværende Howitzvej.
Smallegade er forlængelsen af Gammel Kongevej og dermed en del af den gamle kongelige vej mellem København og Roskilde. Vejen var forbeholdt kongelige og offentlige transporter, og måtte ikke bruges af private.
