Il nome viene dal greco kalyvites, che vuol dire «abitanti di capanna», ed è la stessa parola che porta nel nome il santo patrono, Giovanni Calibita. Non è una coincidenza: il paese è nato nel nono secolo, quando un gruppo di monaci acemeti si stabilì qui e scavò nella roccia una serie di grotte, che servirono da monastero per venerare il loro santo, da chiesa e anche da riserva d'acqua per la gente che di lì a poco venne ad abitarci intorno. Nel 1003 quel monastero accolse un ragazzino di dodici anni, Bartolomeo da Rossano, che vi restò tutto il tempo necessario a imparare i testi sacri e la disciplina della vita monastica. Il rito era greco; nel 1237 i benedettini lo latinizzarono.
Vicino al camposanto restano i resti di una strada di origine visigotica. Il feudo, invece, ha cambiato padrone di continuo — Sangineto, Sant'Angelo, Ruffo di Montalto, Guindazzo, Cavaniglia, gli aragonesi duchi di Montalto, i Mandatoriccio — per finire ai Sambiase, principi di Campana, che lo tennero fino al 1806. Comune per legge dal 1811, Caloveto fu declassato a frazione di Cropalati nel 1928 e ricostituito comune autonomo nel 1934: sei anni da paese di qualcun altro. Nel centro storico, oltre alla piazza e alla chiesa antica, si scende verso il Pedale a vedere la grotta di San Giovanni; e fino a pochi anni fa, il 15 maggio, si teneva la fiera del ponte, che era una fiera di bestiame fatta in onore del patrono.