Atteignant la trentaine d'années, les CC 72000 de l'activité Grandes Lignes utilisées sur les trains Paris-Est - Mulhouse - Bâle commençaient à montrer des signes de fatigue au début des années 2000, et les rejets de leurs moteurs étaient source de protestations de la part des riverains. Leur remplacement par les LGV Est et Rhin-Rhône n'étant pas terminé avant la décennie 2010, la modernisation d'une partie de ces machines sembla être la meilleure solution.
Pour trente exemplaires appartenant à la seconde sous série (aptes à rouler à 160 km/h), les modifications consistent à remplacer le moteur Diesel AGO d'origine par un SEMT Pielstick PA4-200 VGA neuf, développant 4000 Ch., et à poser un automate d'aide à la conduite. La décoration extérieure est revue, toutes adoptant la livrée "en voyage" (ou transitoirement peintes intégralement en gris argenté). Cette modification, pas forcément couplée à un passage en révision générale, entraîne la renumérotation en CC 721xx (les deux derniers numéros étant ceux d'origine).
Une bonne partie des trains Paris- Mulhouse ont été remplacés par des TGV en juin 2007, si bien que l'activité des CC 72100 est en forte baisse. Plusieurs engins ont été radiés, victimes d'avaries graves (incendies) ou arrivant déjà à échéance de parcours (pourquoi les avoir transformés alors qu'il leur restait peu de potentiel et que les passages en révision générale ont été arrêtés ?). La vingtaine de locomotives rescapées, d'une fiabilité moyenne, maintenant affectées aux activités TER et Intercités, devraient rester en service encore pendant quelques années, progressivement remplacées sur les TER par des automoteurs type AGC bimode.
L'ouverture du TGV Rhin Rhône en 2011 diminua encore leurs prestations, le coup de grâce étant porté avec la livraison des automoteurs Regiolis B 85000 à partir de 2015, les évinçant des Intercités Paris - Belfort. Du fait de l'usure des engins, la série n'a pas été réutilisée sur d'autres transversales non électrifiées (Bordeaux - Nantes a été évoqué) ou pour la traction de trains de travaux.
| Année | 2002 | 2003 | 2004 |
| Transformations de CC 72000 | 1 | 14 | 15 |
| Parc total en fin d'année | 1 | 15 | 30 |
| Année | 2007 | 2008 | 2009 | 2010 | 2011 | 2012 | 2013 | 2014 | 2015 | 2016 | 2017 |
| Réformes | 2 | 0 | 1 | 2 | 0 | 3 | 0 | 1 | 2 | 2 | 17 |
| Parc restant en fin d'année | 28 | 28 | 27 | 25 | 25 | 22 | 22 | 21 | 19 | 17 | 0 |