Vejen var fra 1847 tilkørsel til Valby Station. Den lå, hvor vejen drejer lige nord for jernbanen.
I 1864 blev banen mellem København og Roskilde omlagt, så den i stedet gik via Frederiksberg.
I tiden derefter fik vejen derfor navnet Gammel Jernbanevej.
I 1911 blev jernbanen igen ført via Valby og den nuværende Valby Station opført.
På vestsiden af vejen lå landstedet Valhøj. Da det forsvandt, blev de nuværende etageejendomme på Gammel Jernbanevej 8-10 (herunder) opført omkring 1890 som nogle af de første i Valby.
På hjørnet af Valby Langgade lå fra sidste halvdel af 1800-tallet villaen Cimbria. Den var ejet at en baron Gyldencrone, der uanset sin adelige stand, holdt af at besøge de lokale kroer.
Gammel Jernbanevej 34-42 (herover) var bygget til telefoncentral for KTAS. Centralen lukkede i 1978.
I dag er Valby Kino i bygningen.
På Gammel Jernbanevej lå tidligere Hotel Rossini. Hotellet brændte ned men blev genopført som en moderne betonbygning.
Hotellet lukkede i 1970’erne og bygningen i stedet overtaget af Datacentralen. I dag er den dog igen i brug som Hotel Rossini (herover).
Helt ud mod jernbanen ligger endnu en villa fra 1860’erne (herover til venstre). Den er formentlig én af de ældste bygninger i Valby.