Toeleveringsketen voor GPU's

Een GPU-cluster is een van de weinige activa die geld verliest terwijl het nog niet eens in gebruik is. Het verliest al in waarde in de verpakking, bij de douane en op het laadperron, lang voordat het ook maar één dollar opbrengt. Voor een neocloud maakt dat ene feit de GPU-toeleveringsketen tot een hefboom voor de marge, in plaats van een post op een factuur.

De economische realiteit is eenvoudig en meedogenloos. Zorg dat de hardware in de rack staat, van stroom wordt voorzien en winst oplevert voordat de waarde ervan daalt, of zie hoe het rendement op een cluster van meerdere miljoenen dollars dag na dag wegvloeit terwijl het ongebruikt blijft. Oracle noemde een verkorting van de ‘rack-to-revenue’-tijd met ongeveer 60 procent als een belangrijke drijfveer achter zijn AI-groei. In een markt met beperkte voorraad is de snelheid van implementatie bepalend voor de concurrentiepositie.

De vraag die elke neocloud dus aan zijn logistieke partner zou moeten stellen, is heel duidelijk: met hoeveel dagen verleng je mijn afschrijvingsperiode?

Waarom de toeleveringsketen van GPU’s bepalend is voor de marges van Neocloud

De unit economics van Neocloud laten vrijwel geen ruimte voor onbenutte capaciteit. Volgens sectoranalyses ligt het break-evenpunt voor een met vreemd vermogen gefinancierd GPU-cluster bij een bezettingsgraad van ongeveer 70 procent. Een H100-cluster met 1.024 GPU’s dat op 55 procent draait, lijdt maandelijks een verlies van ongeveer 330.000 dollar. Hetzelfde cluster met een bezettingsgraad van 85 procent levert ongeveer 340.000 dollar op. Aanbieders hebben 48 tot 60 maanden de tijd om hun kapitaal terug te verdienen voordat de volgende generatie herinvesteringen noodzakelijk maakt, en hardware van de Vera Rubin-klasse verkort die periode nu al.

Zet nu de toeleveringsketen van de GPU’s in die spreadsheet. Elke dag dat een GPU in een krat ligt, bij de douane wordt vastgehouden, wacht op consolidatie of vastzit omdat een rack beschadigd is aangekomen, is een dag van waardevermindering zonder enige omzet. Een vertraging van twee weken bij één cluster met hoge dichtheid kost veel meer dan de vrachtkosten. Het veroorzaakt een tekort van vijf tot zes cijfers in de winst- en verliesrekening en leidt tot het verlies van capaciteit die je had kunnen verkopen toen de markt nog een premie betaalde voor precies jouw generatie chips.

Daarom zijn de snelste vervoerders gestopt met het beschouwen van vracht als een handelsproduct en zijn ze het gaan zien als een beslissing die de winstmarge bepaalt.

Door goedkopere GPU’s wordt de snelheid van de implementatie juist belangrijker, niet minder

GPU-hardware wordt in hoog tempo een massaproduct. De huurprijzen voor chips van de vorige generatie zijn sterk gedaald ten opzichte van hun hoogtepunt, en elke nieuwe architectuur zorgt ervoor dat de vorige sneller verouderd raakt. Geen van beide trends verlicht de druk op de GPU-toeleveringsketen. Beide dragen juist bij aan die druk.

De premie die een nieuwe generatie winstgevend maakt, geldt nu slechts gedurende een kortere periode, waardoor de marge in de eerste maanden na de lancering wordt behaald – of helemaal niet. Een goedkoper rek heeft nog steeds een kortere levensduur, omdat dezelfde vertraging een groter deel van de kortere winstperiode opslokt.

Wanneer de chips niet langer het voordeel vormen, wordt uitvoering het voordeel. In een markt van prijzenoorlogen en slinkende marges is het de ‘neocloud’ die elke nieuwe generatie als eerste op de markt brengt, die de premie binnenhaalt waar iedereen achteraan zit. Dat is een resultaat van de toeleveringsketen. Het betekent ook dat de keuze voor een partner geen eenmalige inkoopbeslissing is. Je verplaatst een cluster niet één keer. Je vernieuwt je apparatuurpark in een steeds sneller wordend tempo, en de partner die elke generatie het snelst winstgevend maakt, versterkt dat voordeel in elke cyclus.

Waar komen vertragingen bij de implementatie van GPU’s vandaan?

Mislukte implementaties zijn zelden het gevolg van één ingrijpende mislukking. In de toeleveringsketen voor AI-hardware is vertraging meestal het gevolg van een opeenstapeling van kleine, vermijdbare knelpunten.

Productiecorridor. De meest geavanceerde versnellers en rack-scale-systemen komen uit de productiecorridor van Taiwan en de bredere APAC-regio. De overdracht van de fabriek naar het vliegtuig is bepalend voor het succes of falen van de eerste dagen: door de verblijftijd in een magazijn voor algemene vracht, blootstelling van hoogwaardige vracht aan de buitenlucht, of een gemiste vlucht waardoor de hele zending wordt doorgeschoven naar het volgende chartervenster.

Chartercapaciteit. Een GB300-implementatie op rekniveau bestaat uit compacte, zware en schokgevoelige vracht die naar een vaste ingebruiknamedatum moet worden vervoerd. Bij vrachtvervoer in het ruim van passagiersvliegtuigen, afhankelijk van beschikbare ruimte, verloopt het transport volgens het schema van iemand anders. Bij een speciale chartervlucht verloopt het transport volgens uw eigen schema.

Last-mile-afhandeling. Een dicht GPU-rek concentreert meer gewicht en strengere toleranties op een kleinere oppervlakte dan bijna elk ander onderdeel in de toeleveringsketen. Eén verkeerde val, een verkeerde verplaatsing of het ontbreken van kantel- en schokbewaking kan ertoe leiden dat een rek uit de inzet wordt gehaald. De kosten die echt pijn doen, zijn niet de vervangingsprijs – die blijft dalen – maar de weken aan inkomsten die verloren gaan terwijl de RMA-procedure loopt en de rest van het cluster daarop moet wachten.

Gebrek aan inzicht. Als u bij elke overdracht niet kunt zien waar elk apparaat met serienummer zich bevindt, kunt u geen betrouwbare inbedrijfstellingsdatum vastleggen. En een inbedrijfstellingsdatum waarop u niet kunt vertrouwen, is een datum waarop u geen omzet kunt voorspellen.

Zo ziet een nette transportopstelling voor GPU-racks eruit

Genoeg theorie. Hier is een kassabon.

Een toonaangevende neocloud-aanbieder had 300 GB aan GPU-infrastructuur nodig die volgens een strak implementatieschema naar een datacenter moest worden vervoerd. De zending werd vervoerd met drie gecharterde Boeing 747’s onder een geverifieerde, end-to-end traceerbaarheidsketen. Het resultaat: $0 schade, nul incidenten en 100 procent traceerbaarheid van de herkomst tot aan de vloer van het datacenter.

Dat is allemaal geen loze praat. Nul schade betekent nul RMA-cycli en nul racks die uit de implementatie worden gehaald. Nul incidenten betekent dat de inbedrijfstellingsdatum gehaald wordt. Een volledige traceerbaarheidsketen betekent dat de exploitant de omzetdatum kon voorspellen, omdat hij op de leveringsdatum kon vertrouwen.

Dat resultaat was geen toeval. Omni is al sinds 2006 actief in de technologiecorridor van Taiwan, met magazijnen die rechtstreeks op de luchthaven aansluiten. Hierdoor worden de doorlooptijd en de blootstelling aan externe factoren voor hoogwaardige vracht verkort en wordt deze direct in het luchtvervoersnetwerk ingevoerd. Tegen de tijd dat de wereldwijde uitrol van AI-infrastructuur op gang kwam, was die aanwezigheid al een feit.

Elke toeleveringsketen afstemmen op één implementatiedatum

Het in gebruik nemen van een cluster is niet slechts één levering. Het is de coördinatie van verschillende onafhankelijke toeleveringsketens, waaronder GPU’s, netwerken, opslag, stroomverdeling en koeling, die allemaal moeten aansluiten op één implementatieschema. Elk onderdeel heeft een rol en een datum. Hoe beter die data op elkaar zijn afgestemd, hoe sneller het cluster in gebruik kan worden genomen en hoe sneller het winst oplevert.

Juist in die coördinatie ligt het uitvoeringsrisico, en dat is wat een expediteur onderscheidt van een logistieke partner. Iedereen kan een doos vervoeren. De meerwaarde zit hem in het gesynchroniseerd houden van het totaalbeeld, zodat GPU’s niet stil liggen in afwachting van stroom en stroom niet stil ligt in afwachting van rekken.

Hoe Omni de GPU-infrastructuur volgens planning implementeert

Elk van de hierboven genoemde problemen komt overeen met iets wat Omni al uitvoert, waarbij we ons baseren op feitelijke resultaten in plaats van op een roadmap:

• Aanwezigheid in de Taiwan-corridor sinds 2006. Magazijnen die direct op de luchthaven zijn aangesloten, verkorten de verblijftijd en de blootstelling aan omgevingsinvloeden op de plaats van herkomst en zorgen ervoor dat rek-op-schaal-systemen in het luchtvervoersnetwerk worden opgenomen voordat ze in de wachtrij voor algemene vracht vastlopen.
• Speciale chartercapaciteit. Wanneer een GB300-implementatie niet kan wachten op laadruimte in het vrachtruim van een lijnvlucht, vliegt Omni deze volgens zijn eigen schema, zoals het deed met drie gecharterde Boeing 747’s voor een toonaangevende neocloud-aanbieder.
• Traceerbaarheid op serieniveau. Elke overdracht wordt gecontroleerd, van de fabriek via de magazijnontvangst tot aan het datacenter, zodat uw ingebruiknamedatum – en de bijbehorende omzetdatum – klopt.
• Coördinatie van meerdere toeleveringsketens. Omni stemt GPU’s, netwerkapparatuur, opslag en stroomvoorziening af op één enkele implementatiedatum, zodat geen enkel onderdeel stil komt te liggen in afwachting van een ander.
• Een gedocumenteerd resultaat. Die verhuizing verliep zonder schade, zonder incidenten en met een 100 procent gegarandeerde traceerbaarheid. Geen RMA-cycli, geen uit de rek gehaalde apparatuur, en de planning bleef intact.