Ancien nom : Précédemment rue de la Fausse Poterne Saint-Paulpour une partie de la voie. C'était, aux XIII{{e}} siècle, la rue à l'Abbé de Jouy. L'abbé de Jouy possédait un hôtel dans cette voie au XIII{{e}} siècle. La [[rue des Prêtres Saint-Paul]] (devenue [[rue Charlemagne]] aurait été comprise dans la rue de Jouy.
Cette rue est présente sur les [[plans de Paris en 1760 et 1771]] (rue de Joui), elle est également présente en l'[[Rues de Paris avant l'an 1450|an 1450]] dans le second quartier de Paris.