Gaden har sit navn efter et farvand, Dybet, der lå mellem Sjælland og Bremerholm.

Dybensgade var i 1700-tallet, sammen med Holmensgade, præget af bordeller og værtshuse. I 1772 lå der i gaden hele 12 bordeller.

Dybensgade hed tidligere Delfingade, og var én af de gader i kvarteret, der havde navne efter fisk og havdyr. Se nærmere under Laksegade. Det nuværende navn fik gaden i anden halvdel af 1600-tallet.