Ermite et missionnaire, saint Ursanne vivait dans une grotte. Il a non seulement donné son nom à la cité, mais aussi laissé de profondes traces à Saint-Ursanne. Considéré comme un lieu saint, le bourg présentait un tel attrait au IXe siècle déjà, qu’un cloître y a été construit. D’autres édifices sacrés ont par la suite été bâtis sur ses fondations.
Construite il y a plus de 800 ans, la collégiale a subi d’importants travaux de transformation au cours du XIVe et du XVIIe siècle. Elle réunit ainsi des traits architecturaux du roman tardif bourguignon, du début du style gothique et du style baroque. Ses éléments les plus notables sont le portail sud, richement décoré, et sa crypte. Côté montagne, la collégiale est flanquée d’un cloître maintes fois rénové, dont la cour intérieure verdoyante est entourée d’une galerie présentant une série d’arcades ogivales du XIVe siècle.