Schutzpatron von Oliveri ist der heilige Josef, gefeiert am zweiten Sonntag im Oktober; die ihm geweihte Kirche steht im Ort.
Der erste, der den Namen des damals Labiri genannten Ortes überlieferte, war der vom Großgrafen Roger beauftragte arabische Geograf Edrisi, der ihn als „ein schönes und anmutiges Dorf mit einer großen Burg am Meer, Häusern, gutem Ackerland, das ganze Jahr über fließenden Bächen, an deren Ufern einige Mühlen errichtet waren, und einem schönen Hafen, in dem reichlich Thunfisch gefangen wurde“ beschrieb. Der heutige Ortsname geht dagegen auf den Feldherrn Carlo Oliveris zurück, dessen Höflichkeit die Bewohner in Erinnerung behalten wollten. Die Burg arabischen Ursprungs aus dem 11. Jahrhundert wurde 1360 von der den Mönchen gewährten Konzession abgetrennt, als König Ferdinand von Aragon sie zusammen mit dem Lehen und der Thunfischerei seinem zweiten Sohn schenkte. Zu den weiteren Sakralbauten des Ortes zählt die Kirche der Geburt Christi.