Gaden er opkaldt efter finansmanden Christian H. Stoltenberg (1795-1877), der ligesom de andre mænd, der har fået gader i kvarteret opkaldt efter sig, var stifter af legater.
Han var velgører for enker, døtre af embedsmænd m.m., men gav også penge opførelse af kirker og til Diakonissestiftelsen.
Stoltenbergsgade er anlagt omkring 1907 i forbindelse med bebyggelsen af Rysensteen-kvarteret.
