Il patrono di Giove è san Giovanni Battista, festeggiato il 24 giugno.
Il monumento più significativo del paese, che dà anche il nome al comune, risale al 1191 ma fu profondamente rimaneggiato nel Seicento dalla famiglia Mattei: l'imponente castello domina ancora oggi il piccolo abitato umbro. Fra gli altri edifici religiosi si trovano la chiesa di Santa Maria Assunta, fatta costruire dagli stessi Mattei nel Settecento, la chiesa della Madonna del Perugino e la chiesa oggi adibita a monumento ai caduti, dedicata a san Rocco, che al suo interno conserva affreschi cinquecenteschi.