En cette période de Reconstruction eurent lieu les dernières fabrications de locomotives à vapeur, formant des séries unifiées inspirées de productions des anciens réseaux. Outre l'électrification Paris - Lyon donnant lieu à la trilogie CC 7100, BB 8100 et 2D2 9100, c'est aussi l'époque des premiers engins Diesel, confinés aux manœuvres et de l'expérimentation du 20000 V 50 Hz en Savoie. Apparaissent également la première génération d'autorails unifiés (U 150 X 5500, U 300 alias X 3800 et U 600 X 2400 et leurs remorques) ainsi que les voitures DEV. Uniformisation des marquages et systèmes de numérotation ; début de la rénovation profonde de certains matériels anciens (reconstruction de voitures, adaptation aux manœuvres des premières locomotives électriques).
La réussite du pari de l'électrification en 25000 V 50 Hz permet l'apparition des "fers à repasser" typiques du Nord Est, et la disposition d'essieux BB devient quasi systématique suite aux essais à grande vitesse de la BB 9004. Les premiers engins Diesel de grande série (BB 63000) ou destinés au trafic voyageurs (CC 65000) font également apparition sur le réseau, ainsi qu'une seconde génération d'autorails unifiés (X 4200, X 2800, X 5500). Du côté des voitures, seul le parc grandes lignes est concerné par des livraisons de matériel neuf (DEV AO et Inox) ; le parc régional doit se contenter de matériel reconstruit sur des châssis anciens. Les automotrices sont elles aussi peu nombreuses, avec seulement des Z 5100 supplémentaires, la trentaine de Z 7100 et des prototypes pour le 25000 V 50 Hz.
A l'extrême fin de cette période (début 1962), le système de numérotation des engins Diesel est revu, et l'électrification Paris - Marseille est terminée.
L'arrivée de nombreuses séries thermiques à partir de 1963 (BB 67000, A1A-A1A 68000, autorails EAD X 4300 et X 4500) a permis d'accélérer le retrait des locomotives à vapeur, dont les dernières cessèrent leur service en 1974. Néanmoins, cette transition vers les motorisations Diesel s'est faite en plusieurs vagues, avec l'arrivée d'une seconde génération d'engins plus puissants, plus fiables et techniquement plus avancés après 1968 (BB 67300 / 67400, CC 72000, X 4630), évinçant rapidement les premiers vers le trafic marchandises. Néanmoins, le moteur Diesel montra ses limites pour réaliser des engins de forte puissance (BB 69000 et CC 70000), la barre des 4000 Ch. correspondant à un seul engin électrique moyen étant difficilement atteinte.
Profitant d'un pétrole bon marché, la traction thermique est aussi envisagée pour la grande vitesse, grâce à la turbine à gaz. C'est ainsi que démarre la course vers les très grande vitesse, avec successivement le prototype TGS, les turbotrains ETG puis RTG, et le prototype TGV 001.
Les engins électriques, eux, connaissent deux évolutions principales : l'arrivée d'engins bicourant performants sous les deux types de courants (BB 25200 et 25500), et de locomotives CC très puissantes et très rapides (CC 6500 et 21000) permettant d'atteindre le 200 km/h en service commercial. Des automotrices sont également construites pour la banlieue parisienne, en améliorant les séries réalisées auparavant (Z 5100 et 6000).
Du côté des voitures, la banlieue n'est plus oubliée, grâce à l'arrivé des rames RIB (devant initialement former des automotrices). En grandes lignes, alors que les livraisons de DEV Inox continuent, les UIC et USI innovent avec des aménagements (salle à couloir central) et des livrées tranchant avec le parc existant. Enfin, des voitures sont spécialement conçues pour les relations les plus prestigieuses du réseau : les PBA, puis Mistral 69 et Grand Confort, offrent des prestations d'un niveau très élevé.
Cette période voit une vague de modernisation sans précédent du parc tant moteur que remorqué de la SNCF. Apparaissent ainsi les BB 7200 et 22200, afin d'éliminer la plupart des engins hérités des anciens réseaux et les 2D2 9100, tout en couvrant les nouvelles électrifications, relancées suite à la crise pétrolière et malgré le début de la chute du trafic marchandises (Rive Droite du Rhône, Narbonne - Port Bou et Bordeaux - Toulouse en 1500 V, étoile d'Angers en 25000 V) ; à contrario, les livraisons de locomotives Diesel sont stoppées, exceptés les locotracteurs Y 8000.
C'est également à cette époque que le TGV se concrétise grâce rames Sud Est, utilisant des thyristors et des moteurs à courant continu, comme les autres engins apparus pendant cette période 1975 - 1988 ; de nombreux prototypes expérimentent d'autres motorisations qui ne seront appliquées en séries que plus tard.
Du côté des voitures, l'arrivée en masse des voitures Corail permet une remise à niveau spectaculaire du parc Grandes Lignes ; du côté des relations de banlieue et omnibus (pour les quelles l'appellation TER commence à apparaître), les voitures VB2N, RIO et dérivés assurent également une modernisation d'un parc jusqu'alors délaissé. Par contre, les voitures restaurant disparaissent presque totalement, et les voitures TEE sont partiellement déclassées : les prestations de plus haut standing sont peu à peu supprimées, mais la qualité générale augmente.
Enfin, les automoteurs marquent un renouveau, avec l'amélioration des EAD livrés (X 4900 et 4790), l'arrivée d'autorails à une seule caisse et de remorques modernes, la livraison des premières séries d'automotrices performantes destinées à un trafic banlieue ou régional, et même à deux niveaux (Z 5600 et 8800).
Du côté des engins thermiques, les seuls à être construits furent les Y 8400, tandis que les radiations commencent : c'est à cette époque que les dernières grandes lignes sont électrifiées (Paris - Clermont en 1989, Bretagne en 1990, Paris - Cherbourg et Lyon - Strasbourg en 1996). En électrique, tous les engins livrés utilisent des moteurs synchrones (sauf les Eurostar) et appartiennent à de grandes séries : TGV Atlantique, BB 26000, Z 20500 puis TGV Réseau. On arrive donc à un état de maturité technique, après de nombreuses expérimentations menées depuis le début des années 70 (motorisations synchrones et asynchrones, TGV...). En parallèle, les engins datant des anciens réseaux ont quasiment tous disparu, et les séries datant des années 50 ont elles aussi été sévèrement purgées.
Cette période marque aussi la fin des livraisons de matériel remorqué, avec les dernières rames RRR et les voitures express à deux niveaux, alors que toutes les séries de voitures antérieures aux Corail subissent des réformes, y compris les voitures ex TEE. Grâce au développement des services régionaux, des matériels sont achetés ou rénovés par les régions.
Apparition des TGV Duplex, développement des relations à grande vitesse intersecteurs. Rénovation des TGV Sud Est terminée à l'occasion de l'ouverture de la LGV Méditerranée en 2001. Livraison des dernières locomotives "universelles", les BB 36000 à moteurs asynchrones qui évincent les "fers à repasser" et les CC 7100.
Grâce à la participation financière des Régions, livraison d'automoteurs TER thermiques (X 72500 et 73500) et électriques (Z 23500), et début des rénovations de rames tractées (USI, Corail, RIO, RRR...) et d'automotrices Z2. Cela provoque la fin des DEV en 1997, DEV AO en 1998 et des ETG et Grand Confort en 1999 ; début des radiations pour les X 2800 et EAD.
Arrivée de la seconde génération d'engins TER : AGC, TER 2N NG. Les locomotives livrées sont dédiées à un seul type de tâche : Fret ou banlieue Transilien, dont les voitures passent en rénovation.
Après plus de trente ans d'arrêt, reprise des livraisons de locomotives Diesel, avec les BB 75000. Suite à ces nombreuses livraisons, de nombreuses séries anciennes voient alors leurs effectifs réduits, d'où la disparition de la majorité des engins construits avant les années 70 (fin des turbotrains en 2004, des CC 6500 en 2007, des USI / UIC en 2009, des 16500 et 68500 en 2011 ; quasi disparition des EAD et automotrices Inox de banlieue...).
C'est également à cette époque que débute la réforme des voitures Corail, qui sont perdent dès 2003 leurs voitures bar et sont exploitées en rames bloc, mais dont certaines continuent à être modernisée.
Arrivée des Régiolis et Région2N, toutes les séries datant des années 80 ou avant sont vouées à disparaître. Il n'y a plus de locomotives ni d'engins purement thermiques construits. Fin des rames tractées à court terme.