IBM heeft met succes een nieuwe optische technologie ontwikkeld die het trainen van AI-modellen met de ‘snelheid van het licht’ mogelijk maakt en tegelijkertijd aanzienlijk energie bespaart. Volgens IBM is door de toepassing van deze nieuwe doorbraken in datacenters de energiebesparing die wordt gerealiseerd door het trainen van een typisch AI-model gelijk aan het jaarlijkse energieverbruik van 5.000 Amerikaanse huishoudens.
Datacenters maken verbinding met de buitenwereld via glasvezelkabels, maar binnen wordt volgens IBM nog steeds voornamelijk koperdraad gebruikt. Deze koperen kerndraden die GPU-versnellers verbinden, wachten veel tijd op data van andere apparaten terwijl ze stroom verbruiken, wat de bedrijfskosten aanzienlijk verhoogt. Dario Gil, Senior Vice President en Director of Research bij IBM, gaf het volgende commentaar op de nieuwe technologie voor optische gegevensoverdracht:
Omdat kunstmatige intelligentie (AI) de behoefte aan meer vermogen en verwerkingskracht creëert, moeten datacenters evolueren. Met generieke, optisch verpakte technologie kunnen grootschalige datacenters zich beter aanpassen aan de toekomstige eisen. Dankzij deze doorbraak communiceren processoren van de toekomst op dezelfde manier als glasvezelkabels gegevens van en naar datacenters transporteren. Dit luidt een nieuw tijdperk in van snellere, duurzamere communicatie die enorme AI-werklasten aankan.

IBM beschrijft zijn nieuwe prototype van co-package optics (CPO)-technologie in een technisch artikel . Door de bandbreedte in datacenters aanzienlijk te vergroten, kan GPU-downtime worden geminimaliseerd en AI-verwerking worden versneld.
IBM belooft vol vertrouwen dat deze technologie de trainingstijd voor grote taalmodellen (LLM's) van drie maanden naar drie weken kan verkorten. Tegelijkertijd zal een grotere energie-efficiëntie het energieverbruik en de kosten voor LLM-opleidingen terugdringen.