I patroni di Guardea sono san Cesario, festeggiato il 1º novembre, e san Pietro, festeggiato il 29 giugno: sono gli antichi compatroni del comune, titolari della chiesa dei Santi Pietro e Cesareo, edificata nei primi decenni del Settecento sul luogo, allora chiamato Piano Antico, dove sorgeva un'antica chiesa rurale dedicata a santa Cecilia. Nella sacrestia, in un armadio, si conserva un reliquiario argenteo contenente un frammento osseo di san Cesareo diacono e martire, opera di una bottega dell'Italia centrale.
Il paese si trova ai piedi di due colli, Guardea Vecchia, dove restano i ruderi dell'antico borgo, e il Poggio, dove sorge il castello medievale: fondato come feudo imperiale nel 1034 su una preesistente torre bizantina del VII secolo ed edificato dai Normanni, è uno dei castelli più antichi d'Italia e fu restaurato da Antonio da Sangallo il Giovane nel Cinquecento. Nel XII secolo entrò a far parte dello «Status Alviani», feudo della Chiesa, e fu conquistato nel tempo da personaggi come Federico II di Svevia, Carlo V d'Asburgo e Cesare Borgia, che lo donò alla sorella Lucrezia.
