Varios historiadores del Salento — De Giorgi, Marciano, Arditi, Coco, Galateo — hacen remontar el nombre a un centurión romano llamado Carminius, al que el senado de Roma donó cien yugadas de terreno en lo que entonces se llamaba Calabria y hoy es el Salento; a su muerte aquellas tierras, habitadas por sus sucesores y por un numeroso grupo de fieles, tomaron el nombre de Presidium Carmianensis, o Carminianum, y con la vulgarización sucesiva Carmiano. Otros prefieren una lectura más simple y hacen venir el nombre del color rojo carmín del terreno. Lo que el pueblo tiene con seguridad, y desde muy lejos, es su escudo — y también el motivo por el que lo tiene: bajo los normandos cada pueblo fue obligado a dotarse de un escudo característico, y el de Carmiano se remonta al siglo once. Es un pino, con una estrella en medio de la copa, y dos franjas paralelas entre la copa y el suelo. Cada pieza quiere decir algo: el pino es el árbol extendido por estos parajes, las franjas son la línea del horizonte contra la que el árbol se recortaba, es decir la llanura del feudo, y la estrella está ahí por el origen noble del lugar. Un escudo que es un paisaje con una reivindicación dentro.
En 1055 Carmiano fue incluida en el condado de Lecce, dentro del principado de Tarento. Cuando María de Enghien redactó los estatutos de Lecce, en 1445, Carmiano estaba en ellos como casale, y la regía un barón desde hacía ya unos sesenta años. Tres años después, en 1448, el pueblo fue comprado por los padres celestinos, que lo gobernaron con gran laboriosidad — el palacio de los Celestinos, del siglo dieciséis, es lo que queda de aquello — y lo tuvieron hasta que fueron desposeídos, en 1806; luego se fueron a vivir a la casa contigua a la iglesia de la Immacolata, donde los últimos de ellos están enterrados. Aquella iglesia existe por una pareja de bueyes. Un campesino, se cuenta, encontró en un viejo pozo una imagen de la Virgen y la cargó en su carro para llevarla al pueblo; en cierto punto los bueyes se arrodillaron y no se levantaron hasta que él hubo quitado la imagen del carro. El obispo de Lecce, monseñor Luigi Pappacoda, lo tomó por una señal y ordenó que en aquel punto se erigiera una iglesia; el altar central es de Giuseppe Zimbalo, y es una obra maestra del barroco de Lecce. El tres de septiembre de 1943 aviones aliados soltaron sobre Carmiano varias bombas, que explotaron todas justo fuera del pueblo, y el mérito la gente se lo atribuyó a la Immacolata. Cinco días después se anunció el armisticio: era el ocho de septiembre, que en Magliano es la noche de la marcha con antorchas por la natividad de la Virgen.