En 1866 on perce le boulevard Henri IV sur les terrains du couvent des Célestins et du [[couvent des Filles de la Visitation Sainte-Marie (4e)|couvent des Filles de la Visitation Sainte-Marie]].
Fin XIX{{e}} et début XX{{e}} la nouvelle caserne des Célestins de la Garde républicaine est construite à l'emplacement du couvent, ses derniers vestiges disparaissent, la caserne des Célestins est située 12, [[boulevard Henri IV]].