Fuera de Foligno, a lo largo de la Corta di Colle a unos cien metros de la carretera nacional, se llega a la colina de San Valentín de Civitavecchia donde se conservan los restos de una antigua iglesia. Pocas personas en Foligno conocen la zona donde parece que hubo una civitas con su lugar de culto desde los primeros siglos del cristianismo. El historiador Ludovico Iacobilli habla de un pueblo fortificado que se desarrolló a partir del siglo III, tras el martirio del obispo de Terni Valentino, a quien estaba dedicado el edificio. En el siglo XVI, sin embargo, todo el complejo debió ser abandonado porque las fuentes ya no lo mencionan.
En 1530 la noble familia de Foligno, los Cantagalli, confió su custodia a los frailes capuchinos, que abandonaron definitivamente la estructura en 1560 y se trasladaron a la cercana colina de S. Giuseppe.
Hoy en día sólo quedan algunos fragmentos de murallas perimetrales y los restos de dos columnas de todo el monasterio, mientras que en la cripta de S. Feliciano se conservan numerosos fragmentos de inscripciones romanas y medievales encontradas en el yacimiento.