Herluin de Conteville vit un jour apparaître la Vierge Marie. Celle ci lui ordonna de se rendre près d'une source miraculeuse et d'y rétablir une chapelle détruite. Un rêve plus tard, la Vierge lui demanda de construire une abbaye. Après un incendie, y fut construit de nombreux bâtiments (aujourd'hui disparus).
Plus tard, le Duc de Normandie tomba amoureux d'Arlette, de leur union naquit le futur Guillaume le Conquérant. Au départ du Duc de Normandie pour un pèlerinage, celui-ci confie sa bien aimée à Herluin. Le couple vécu toute sa vie dans cette petite abbaye. Ils y furent enterrés, ainsi que certains de leur descendants. Aucune stèle n'est visible, il est surprenant de se balader en ces lieux, tant cette "abbaye" est une belle maison, entourée d'un vaste jardin paisible, d'une source presque tarie, et sous nos pieds, quelque part, les corps gisants des ancêtres de Guillaume le Conquérant.
Autre anecdote, c'est aussi ici que fût écrite l'ordonnance prescrivant une enquête sur le procès de Jeanne d'Arc. Vers 1757, l'église et le cloître furent démolis, laissant seulement le réfectoire, au dessus duquel a ensuite été bâtie une maison.