Voie comprise en partie dans le site du Vieux Montmartre.
Précédemment, rue des Brouillards, plus anciennement, impasse de la Fontaine Saint-Denis. Sur le cadastre de 1825, la partie située entre les rues [[rue Lepic|Lepic]] et [[Rue de l'Abreuvoir (18e)|de l'Abreuvoir]] porte le nom de rue de la Croix du But. En 1900, une partie de la rue Girardon a été annexée à la [[place Constantin Pecqueur]].
Au XIX{{e}} siècle cette voie marquait la limite est du [[maquis de Montmartre]].