Gadens navn betyder, at her lå bygrænsen. Området udenfor var før 1600-tallet byens udkant.
Tidligere kaldtes gadestykket fra Åbenrå og stykket ud til volden ved Gothersgade hed Slippen.
Hvor gaden Lønporten går i dag, var en lille gade, der hed Bag Volden. Dens navn kom af, at den oprindelige vold omkring København gik her. Gaden fik senere navnet Lille Brøndstræde.
I gadens nordlige del er der fine eksempler på ”ildebrandshuse”, som blev opført efter branden i 1728. (Se mere om bevaring af karréen i artiklen om Åbenrå).
Omkring Pilestræde ligger flere store forretningsejendomme. Det store Gutenberghus-kompleks er beskrevet i artiklen om Vognmagergade.
Bygningen på hjørnet af Suhmsgade (herunder) er tegnet af William Jerndorff og opført omkring 1940 for De Forenede Protokolfabrikker.
I gadens vestlige del ligger Trinitatis Kirke.
Ved kirken står Anders Tinsbos (1938-1994) “Vandkunst” fra 1990.