Gaden er opkaldt efter astronomen Ole Rømer (1644-1710).
Gaden er anlagt i midten af 1870’erne, hvor Nørrevold-kvarteret så småt blev bebygget efter at voldene omkring København var nedlagt.
Gadenavnet kan været en henvisning til Københavns Observatorium i nærheden, der ligesom Rømer har en tilknytning til astronomien.
I Rømersgade ligger bl.a. Arbejdernes Forenings- og Forsamlingsbygning. Den er opført i 1878 som samlingssted for arbejderbevægelsen, der på det tidspunkt var i fremvækst, men manglede et sted at kunne mødes.
Forsamlingsbygningen fik hele 20 mødelokaler og en stor festsal. I huset var der også plads til kontorer for fagforeninger.
Bygningen havde i 1910 besøg af de internationalt kendte socialister, Vladimir Lenin og Rosa Luxemburg, som var til kongres i København.
Arbejdernes Forsamlingsbygning er fredet og én af de ældste af sin slags i verden. Den er desuden optaget på listen over forslag til udpegning som verdenskulturarv.
Ud mod Israels Plads opførtes i begyndelsen af 1880’erne Missionshuset Bethesda (tegningen herover). Bygningen er tegnet af arkitekten Ludvig Knudsen.