San Secondo sta dove una volta passava il fiume. Il paese di oggi fu fondato soltanto fra il Trecento e il Quattrocento, perché la posizione che occupa era allora occupata dal corso del Taro: il paleoalveo, con il suo andamento a meandri, si vede ancora chiaramente a sud dell'abitato e attraversa il capoluogo stesso. Il primo nucleo abitato stava altrove, probabilmente un chilometro più a nord e spostato a ovest, ed è di lì che vengono i ritrovamenti: sul finire dell'Ottocento Luigi Pigorini individuò in località Copezzato un insediamento terramaricolo dell'età del bronzo, e nel 1973, al margine di una cava, a due metri e mezzo di profondità, saltò fuori per caso un vaso cinerario di cotto con dei monili e una moneta, un asse romano databile intorno al 150 avanti Cristo; altre urne, di epoca romana più tarda, vennero alla luce dopo. Tombe di periodi diversi nello stesso posto vogliono dire che la colonizzazione non si era mai interrotta. Il ritrovamento, per giunta, è a poca distanza dalla strada romana che portava nel cremonese, il cui tracciato è ancora oggi sede stradale e attraversa il centro storico con via Garibaldi.
Il nome viene da una chiesetta costruita fra l'ottavo e il nono secolo e dedicata a san Secondo d'Asti. E la prima volta che quel nome compare in un documento non indica un paese, ma uno specchio d'acqua: nell'894 un diploma del re Arnolfo di Carinzia, che elenca i possedimenti del Capitolo della cattedrale di Parma, cita un «Lacum Sancti Secundi» — il lago di San Secondo, che era forse una palude alimentata dall'alveo del Taro man mano che si insabbiava. Il territorio è tutto pianeggiante e delimitato su tre lati da confini d'acqua: il Taro a est, lo Stirone a nord, la Rovacchia a ovest. E una di quelle acque fa da confine da duemila anni: la fossaccia Scannabecco, che scorre a ovest del paese, in epoca romana imperiale segnava la divisione centuriale fra i municipi di Parma e di Fidentia. Il comune si chiamava semplicemente San Secondo fino al 1862.