Apparues la même année que les BB 67000, les A1A A1A 68000 reprennent le même aspect général et de nombreux composants, tout en ayant un moteur plus puissant (2700 Ch. contre 2000) et en embarquant une chaudière destinée au chauffage des rames d'alors (évitant l'emploi d'un fourgon chaudière).
Leur configuration d'essieux, assez inhabituelle, consiste en deux bogies dont seuls les essieux extrêmes sont moteurs. L'essieu médian est simplement porteur ; un système de réglage de la suspension permet soit de répartir au maximum la masse entre tous les essieux (cas des lignes faiblement armées), ou bien de la concentrer au maximum admissible sur les essieux moteurs, afin d'augmenter l'adhérence. Ce dispositif, délicat à régler, sera rapidement abandonné.
La mise en service de la série se déroule non sans heurts, surtout vu que ces engins remplacent les plus grosses locomotives à vapeur en service marchandises et voyageurs sur une bonne partie des grandes lignes non électrifiées.
Très rapidement, une variante apparaît, équipée d'un autre type de moteur Diesel : ce sont les A1A-A1A 68500, dont le premier exemplaire est issu de la transformation de la 68005.
Dès 1967, l'arrivée des BB 67300 et CC 72000, puis des BB 67400, plus performantes et pouvant alimenter en électricité les nouvelles rames de voitures relègue les A1A-A1A 68000 et 68500 vers les convois moins importants, composés de matériels anciens, encore chauffés à la vapeur ; au milieu des années 70, il est finalement décidé de cantonner la série aux trains de marchandises.
Entre 1977 et 1982, l'ensemble des engins subit une Révision Générale de mi vie, avec suppression des chaudières (remplacées par un lest) et remplacement des cabines de conduites (comme ce fut le cas pour les BB 67000 et 67300) : celles ci sont désormais renforcées, avec des feux rouges et un logo différent. Cinq autres engins (68082 à 85) rejoignent la série : il s'agit de 68500 transformées (la 68501 reprend son numéro de 68005). Durant plus d'une décennie, la série conservera une activité importante en service marchandises, même si les électrifications réduisent toujours plus son champ d'action. A noter en 1995-1996 un bref retour des prestations voyageurs assurées par la série : lors de l'électrification de la ligne Paris - Caen - Cherbourg, les turbotrains RTG durent être remplacés par des rames tractées par des BB 67300/400 généralement en unité multiple. Or, ces dernières étaient en nombre insuffisant, il a alors été décidé de former des couplages A1A-A1A 68000 + BB 67300 ou 67400, cette dernière se trouvant côté rame car elle seule pouvant l'alimenter en énergie.
Quelques exemplaires seront aussi utilisés sur les chantiers des lignes nouvelles TGV ; en 1999, toutes seront affectées à l'activité Fret.
A partir de 1993, la série commence à perdre en volume, mais il ne s'agit pas de radiations : les moteurs Diesel Sulzer ont des problèmes de fissures, contrairement aux AGO des 68500, alors que ces dernières vieillissent moins bien. Après avoir envisagé l'achat de moteurs neufs, la solution consista à réaliser de "nouvelles" 68500, pour maintenir le parc de cette série au même niveau, au détriment des 68000 (il y avait de toute façon un excédent de locomotives thermiques). Au total, onze machines, devenant les 68529 à 68540, subiront cette transformation jusqu'en 2001.
L'arrêt des révisions générales en 2001 (les dernières machines traitées ont reçu la livrée Fret à la place du bleu traditionnel) laissait à la série une espérance de vie d'une dizaine d'années au mieux... mais la réorganisation de l'activité Fret en 2003 décide la fin des 68000 à court terme. Tous les engins, y compris ceux disposant d'un potentiel kilométrique important, furent radiés jusqu'en 2005, sauf la 68081, qui est est encore utilisée par l'activité Infrastructure et qui sera conservée après sa radiation, remise en livrée d'origine.
| Année | 1963 | 1964 | 1965 | 1966 | 1967 | 1968 |
| Mises en service | 4 | 17 | 22 | 20 | 10 | 7 |
| Parc total en fin d'année | 4 | 21 | 43 | 63 | 73 | 80 |
La 68005 n'a jamais existé car sortie d'usine avec un moteur AGO sous le numéro 68501.
| Année | 1971 | 1975 | 1982 | 1984 | 1993 | 1994 | 1995 | 1996 | 1997 | 1998 | 1999 | 2000 | 2001 | 2002 | 2003 | 2004 | 2005 |
| Transformations en A1A-A1A 68500 | 2 | 2 | 1 | 1 | 1 | 2 | 2 | ||||||||||
| Transformations d'anciennes A1A-A1A 68500 | 1 | 1 | 2 | ||||||||||||||
| Réformes | 1 | 1 | 2 | 1 | 1 | 2 | 6 | 6 | 13 | 29 | 8 | ||||||
| Parc restant en fin d'année | 81 | 81 | 80 | 82 | 78 | 76 | 75 | 74 | 73 | 73 | 72 | 69 | 61 | 52 | 39 | 9 | 1 |