Piombino veut dire «petite Populonia» : le nom vient de Populino, et la ville existe parce que Populonia est morte. Au cinquième siècle, le poète Rutilius Namatianus, longeant l'Étrurie en bateau, écrivit que Populonia était désormais une ville morte — et dans la même page il nomma pour la première fois le port de Falesia, le noyau d'où naîtrait Piombino. Populonia, pendant ce temps, était pillée coup sur coup : par les Goths de Totila, puis par les Lombards, et l'évêque Cerbone dut se réfugier à l'île d'Elbe. Le dernier pillage est de 809, et il fut l'oeuvre des orobites, des pirates slaves qui vivaient dans les montagnes du Péloponnèse. C'est alors que les rares restants descendirent au port et se mirent à bâtir ici.
Le reste est une histoire de maîtres. En 1399 Gherardo d'Appiano vendit Pise aux Visconti pour deux cent mille florins et garda Piombino : naquit ainsi une seigneurie indépendante qui comprenait aussi Populonia, Suvereto, Scarlino et les îles de Pianosa, Montecristo et Elbe. Puis y passèrent César Borgia, Côme de Médicis, les Ludovisi, les Boncompagni, et enfin Elisa Bonaparte, que Napoléon fit princesse de Lucques et Piombino — et qui, par un décret sanitaire, désacralisa une église du treizième siècle pour en faire un hôpital. De la piazza Bovio, terrasse suspendue au-dessus du canal de mer, on voit tout l'archipel toscan et, les jours clairs, la Corse : le promontoire marque la limite entre mer Ligure et mer Tyrrhénienne. À Populonia, sur le golfe de Baratti, subsiste la seule grande cité étrusque donnant sur la mer, avec ses nécropoles et ses tombes à tumulus parmi les pins. Le vingtième siècle, lui, c'est l'acier : c'est pour ses aciéries que la ville fut bombardée, et la bataille de Piombino du dix septembre 1943 est tenue par les historiens pour l'une des premières pages de la Résistance italienne.