Les saints patrons de Guardea sont saint Césaire, fêté le 1er novembre, et saint Pierre, fêté le 29 juin : ce sont les anciens copatrons de la commune, titulaires de l'église Santi Pietro e Cesareo, édifiée dans les premières décennies du XVIIIe siècle sur le site, alors appelé Piano Antico, où s'élevait une ancienne église rurale dédiée à sainte Cécile. Dans la sacristie, dans une armoire, est conservé un reliquaire d'argent contenant un fragment d'os de saint Césaire, diacre et martyr, œuvre d'un atelier d'Italie centrale.
Le bourg se trouve au pied de deux collines, Guardea Vecchia, où subsistent les ruines de l'ancien bourg, et le Poggio, où s'élève le château médiéval : fondé comme fief impérial en 1034 sur une tour byzantine préexistante du VIIe siècle et édifié par les Normands, c'est l'un des châteaux les plus anciens d'Italie, restauré par Antonio da Sangallo le Jeune au XVIe siècle. Au XIIe siècle, il fit partie du « Status Alviani », fief de l'Église, et fut conquis au fil du temps par des personnages tels que Frédéric II de Souabe, Charles Quint de Habsbourg et César Borgia, qui l'offrit à sa sœur Lucrèce.