Der Name kommt, so die Philologen, von Joha, einer Kurzform des Familiennamens eines byzantinischen Geschlechts dieser Gegend; doch die Legende ist schöner und erzählt von einer reisenden Adligen, die hier eine kostbare Halskette verlor, die später auf dem Hügel gefunden wurde. Die Stadt hat der Legende geglaubt: In ihrem Wappen steht kein Geschlecht, wie in denen der Nachbarorte, sondern ein kelchförmiger Becher voller Juwelen, umrandet von bäuerlichen Motiven, also das Bildnis einer Gemeinschaft zwischen Armut und Reichtum, zwischen Handwerk und Großgrundbesitz. Bis ins neunzehnte Jahrhundert hieß sie nur Gioia, und ihre Leute nennen sie noch immer Sciò.
Auf dem Hügel steht die Burg, die in Wahrheit drei übereinandergelegte Burgen ist: der byzantinische Mauerring, die Residenz, die der Normanne Richard Seneschall im zwölften Jahrhundert daraus machte, und die endgültige Gestalt, die Friedrich II. um 1230 nach seiner Rückkehr vom Kreuzzug befahl, mit viereckigem Hof und vier Ecktürmen. Zwei davon sind geblieben und heißen De'-Rossi-Turm und Turm der Kaiserin. Die Stadt aber ist weit älter als ihr Name: Fünf Kilometer entfernt, am Monte Sannace, wird noch immer eine Siedlung der Peuketier aus dem siebten Jahrhundert vor Christus ausgegraben. Und es gibt ein Datum, das Gioia nicht vergisst: Am ersten Juli 1920 wurden im Bezirk Marzagaglia sechs Landarbeiter getötet und tags darauf, zur Vergeltung, drei Grundbesitzer. Ringsum bleiben die anderswo seltenen Wälder der Mazedonischen Eiche, zwischen den Murge und dem Sattel, auf dem die Stadt ruht.