Le saint patron de Castel Vittorio est saint Étienne, fêté le 26 décembre. L'église paroissiale qui lui est dédiée, dont le plan actuel remonte à la reconstruction baroque de 1764, présente un bas-relief d'un intérêt artistique particulier, du XVIe ou XVIIe siècle, sur le portail latéral ; à l'intérieur est conservé un tableau représentant la Crucifixion de Jésus du peintre Marcello Venusti, datable de la seconde moitié du XVIe siècle, et un crucifix d'Anton Maria Maragliano. Sur le flanc droit de l'édifice s'ouvre un portail surmonté d'un petit porche suspendu du XVe siècle.
Le village, au noyau historique elliptique, se dresse perché au sommet d'une colline escarpée, au bout d'une fine crête boisée dominant la haute vallée du torrent Nervia. Anciennement appelé Castelfranco, il connut de nombreux conflits documentés avec la commune voisine de Pigna, liés aux différentes dominations politiques administrant les deux bourgs, l'un rallié à Gênes, l'autre inclus dans les possessions du duché de Savoie : avec la chute de Napoléon et les dispositions du congrès de Vienne de 1814, la municipalité passa au royaume de Sardaigne, intégrant le mandement de Dolceacqua.