Diversi storici salentini — il De Giorgi, il Marciano, l'Arditi, il Coco, il Galateo — fanno risalire il nome a un centurione romano di nome Carminius, al quale il senato di Roma donò cento iugeri di terreno in quella che allora si chiamava Calabria e che oggi è il Salento; alla sua morte quelle terre, abitate dai suoi successori e da un numeroso gruppo di fedeli, presero il nome di Presidium Carmianensis, o Carminianum, e con la volgarizzazione successiva Carmiano. Altri preferiscono una lettura più semplice e fanno venire il nome dal colore rosso carminio del terreno. Quello che il paese ha di sicuro, e da molto lontano, è lo stemma — e anche il motivo per cui ce l'ha: sotto i normanni ogni paese fu obbligato a dotarsi di uno stemma caratteristico, e quello di Carmiano risale all'undicesimo secolo. È un albero di pino, con una stella in mezzo alla chioma, e due strisce parallele fra la chioma e il terreno. Ogni pezzo vuol dire qualcosa: il pino è l'albero diffuso da queste parti, le strisce sono la linea dell'orizzonte contro cui l'albero si stagliava, cioè la pianura del feudo, e la stella sta lì per l'origine nobile del posto. Uno stemma che è un paesaggio con dentro una rivendicazione.
Nel 1055 Carmiano fu inclusa nella contea di Lecce, dentro il principato di Taranto. Quando Maria d'Enghien stilò gli statuti di Lecce, nel 1445, Carmiano c'era come casale, ed era retto da un barone già da una sessantina d'anni. Tre anni dopo, nel 1448, il paese fu acquistato dai padri celestini, che lo governarono con grande laboriosità — il cinquecentesco palazzo dei Celestini è quello che ne resta — e lo tennero fino a quando ne furono spodestati, nel 1806; poi andarono a vivere nella casa accanto alla chiesa dell'Immacolata, dove gli ultimi di loro sono sepolti. Quella chiesa esiste per via di una coppia di buoi. Un contadino, si racconta, trovò in un vecchio pozzo una raffigurazione della Vergine e la caricò sul calesse per portarla in paese; a un certo punto i buoi si inginocchiarono e non si rialzarono finché lui non ebbe tolto la raffigurazione dal calesse. Il vescovo di Lecce, monsignor Luigi Pappacoda, lo prese per un segno e ordinò che in quel punto fosse eretta una chiesa; l'altare centrale è di Giuseppe Zimbalo, ed è un capolavoro del barocco leccese. Il tre settembre 1943 gli aerei alleati sganciarono su Carmiano diverse bombe, che esplosero tutte poco fuori dal paese, e il merito la gente lo attribuì all'Immacolata. Cinque giorni dopo fu annunciato l'armistizio: era l'otto settembre, che a Magliano è la notte della fiaccolata per la natività della Vergine.
