Dès le IX{{e}}e siècle, les accès aux deux ponts qui reliaient l’[[île du Palais]] aux berges de la [[Seine]], sont protégés par deux châtelets, d'abord en bois, puis en pierre : le [[Grand Châtelet]], au nord, pour protéger l'accès au [[pont au Change]] et le Petit Châtelet, au sud, pour protéger l'accès au [[Petit Pont]].
Le Petit Châtelet, en pierre, est construit vers 1130 en remplacement de la [[tour du Petit Pont]], en bois, qui existait depuis le IX{{e}} siècle, sans doute construite sous Charles le Chauve. Il est reconstruit sous Charles V, par [[Hugues Aubriot]], [[prévôt de Paris]]. Le Petit Châtelet servira de demeure au prévôt de Paris.
Le Petit Châtelet, devenu une prison, est détruit en 1782, sa prison transférée à la prison de la Force, l’espace dégagé forme la [[place du Petit Pont]].