Elle est bâtie sur les fondations du premier lieu de culte connu de la rive droite à Paris, une basilique fondée entre 387 et 576 à côté d’un cimetière gallo-romain sur le monceau Saint-Gervais, butte non inondable dans un territoire marécageux. Le duo Saint Gervais et Saint Protais est très populaire à l'époque de la fondation de cette église.