Sul Monte Arci, che in parte ricade nel territorio comunale, c'è l'ossidiana, e qui la si lavora dal neolitico: i sardi preistorici la commerciavano in buona parte del bacino del Mediterraneo, e il vetro vulcanico dell'Arci arrivò fino alle coste del midi francese, in Corsica e in alcuni insediamenti dell'Italia settentrionale, dalla Toscana alla Liguria e all'Emilia-Romagna. I giacimenti di cui è accertato lo sfruttamento antico stanno nelle località di Tzipaneas, Murus e Monte Sparau. Vennero poi i nuraghi, semplici e complessi, in montagna e in pianura, e le fattorie romane sparse in queste terre fertili; il sito più importante è il Praetorium di Muru Is Bangius, che rappresenta un unicum in Sardegna e fu abitato fino al basso impero, con testimonianze che arrivano alla piena età bizantina. Prima della grande bonifica che ha fatto nascere Arborea, Marrubiu divideva con Terralba la laguna più grande dell'oristanese, il Sassu, oggi completamente prosciugata.
Il paese di oggi discende da Zuradili, nato nell'undicesimo secolo nel giudicato di Arborea: di quel periodo restano toponimi come Su Moru 'e is Pisanus, il sentiero dei pisani, e alcuni genovini d'argento coniati fra il 1139 e il 1339 e ritrovati proprio lì. Caduto il giudicato, nel 1420, il villaggio passò al marchesato di Oristano e nel 1478 agli aragonesi. Nel 1644 si tentò di ripopolare Zuradili, ma invano: gli abitanti chiesero presto di scendere a valle, e nel 1659 nacque il centro moderno di Marrubiu. Nel 1712 il paese formò il marchesato di San Carlo, concesso ai Bono e poi ai Paliaccio, ai quali fu riscattato nel 1839. Molto più tardi Marrubiu passò vent'anni come frazione di Terralba: fra il 10 e il 13 dicembre 1947 il paese si ribellò a quell'unione, e durante una manifestazione Terenzino Trudu fu ucciso dalle forze dell'ordine. Nel 1948 Marrubiu tornò comune indipendente.