Il patrono di Celenza Valfortore è san Giovanni Battista, festeggiato il 24 giugno.
Nel comune si trovano il Museo archeologico antiquarium comunale, la Chiesa di San Francesco, la Chiesa di San Nicola, la Cappella Madonna delle Grazie e la Cappella del Calvario.