Cadeia de abastecimento das GPUs

Um cluster de GPUs é um bem raro que gera prejuízo enquanto permanece parado. Desvaloriza-se ainda na caixa, na alfândega e na zona de carga, muito antes de render um dólar. Para uma «neocloud», esse facto transforma a cadeia de abastecimento de GPUs numa alavanca para a margem de lucro, e não numa rubrica numa fatura.

A lógica económica é simples e implacável. É preciso instalar o hardware nos racks, ligá-lo à corrente e colocá-lo a gerar receitas antes que o seu valor se desvalorize, ou ver o retorno de um cluster multimilionário a esvair-se, um dia de inatividade de cada vez. A Oracle atribuiu a uma redução de cerca de 60 por cento no tempo entre a instalação nos racks e a geração de receitas o papel de principal motor do seu impulso na área da IA. Num mercado com restrições de oferta, a velocidade de implementação é o fator que define a posição competitiva.

Por isso, a pergunta que toda a empresa de «neocloud» deve fazer ao seu parceiro de logística é direta: quantos dias estão a acrescentar ao meu prazo de amortização?

Por que razão a cadeia de abastecimento das GPUs determina as margens da Neocloud

A economia unitária da Neocloud quase não deixa margem para capacidade ociosa. As análises do setor estimam que o ponto de equilíbrio para um cluster de GPUs financiado por dívida se situe em cerca de 70% de utilização. Um cluster H100 com 1 024 GPUs a funcionar a 55% de utilização perde cerca de 330 mil dólares por mês. O mesmo cluster, a 85 por cento, gera cerca de 340 mil dólares. Os fornecedores dispõem de 48 a 60 meses para recuperar o capital antes que a próxima geração obrigue a um reinvestimento, e o hardware da classe Vera Rubin já está a encurtar esse prazo.

Agora, insira a cadeia de abastecimento das GPUs nessa folha de cálculo. Cada dia em que uma GPU fica numa caixa, retida na alfândega, à espera de uma consolidação ou imobilizada porque um rack chegou danificado, é um dia de depreciação sem qualquer receita associada. Um atraso de duas semanas num cluster de alta densidade custa muito mais do que o frete. Isso abre um rombo de cinco a seis dígitos no resultado líquido e faz com que se perca capacidade que poderia ter sido vendida enquanto o mercado ainda pagava um prémio pela sua geração específica de silício.

É por isso que os operadores mais rápidos deixaram de tratar o transporte de mercadorias como uma mercadoria e passaram a tratá-lo como uma decisão que gera margem.

As GPUs mais baratas fazem com que a rapidez da implementação seja ainda mais importante, e não menos

O hardware das GPUs está a tornar-se rapidamente um produto de grande consumo. As tarifas de aluguer dos chips da última geração caíram drasticamente em relação aos seus picos, e cada nova arquitetura torna a anterior obsoleta mais rapidamente. Nenhuma destas tendências alivia a pressão sobre a cadeia de abastecimento das GPUs. Ambas contribuem para aumentá-la.

O prémio que torna uma nova geração rentável tem agora uma duração mais curta, pelo que a margem é obtida nos primeiros meses após o lançamento ou não é obtida de todo. Um rack mais barato continua a ter uma margem de manobra mais curta, porque o mesmo atraso consome uma parte maior de um ciclo de rentabilidade mais curto.

Quando os chips deixam de ser a vantagem, a execução passa a ser a vantagem. Num mercado marcado por guerras de preços e margens cada vez mais reduzidas, a «neocloud» que integra cada nova geração é a primeira a capturar o prémio que todos os outros procuram. Esse é um resultado da cadeia de abastecimento. Significa também que a decisão relativa ao parceiro não é uma simples escolha de aquisição pontual. Não se trata de mudar um cluster uma única vez. Trata-se de renovar frotas a um ritmo que não para de acelerar, e o parceiro que consegue rentabilizar cada geração mais cedo reforça essa vantagem em todos os ciclos.

De onde vêm os atrasos na implementação das GPUs

As implementações mal sucedidas raramente resultam de uma única falha dramática. Na cadeia de abastecimento de hardware de IA, os atrasos resultam, normalmente, de uma acumulação de pequenos atritos que poderiam ser evitados.

Corredor de origem. Os aceleradores e sistemas em escala de rack mais avançados provêm de Taiwan e do corredor de produção mais alargado da região Ásia-Pacífico (APAC). A transição da fábrica para o avião é o momento em que se ganham ou se perdem os primeiros dias, devido ao tempo de permanência num armazém de carga geral, à exposição à intemperie de carga de elevado valor ou à perda de um voo, o que faz com que toda a remessa seja adiada para a próxima janela de voos charter.

Capacidade de fretamento. Uma implantação do GB300 à escala de rack consiste em carga densa, pesada e sensível a choques, que tem de ser transportada até uma data fixa de entrada em funcionamento. No caso de carga em compartimento de carga, dependendo da disponibilidade de espaço, o transporte segue o horário de outra entidade. No caso de um fretamento dedicado, o transporte segue o seu horário.

Manuseamento na última milha. Um rack de GPUs de alta densidade concentra mais peso e tolerâncias mais rigorosas num espaço mais reduzido do que praticamente qualquer outro elemento da cadeia de abastecimento. Uma queda mal executada, um levantamento incorreto ou a ausência de monitorização de inclinação e choques podem levar à retirada de um rack da implantação. O custo mais significativo não é o preço de substituição, que continua a descer, mas sim as semanas de receitas perdidas enquanto o processo de RMA decorre e o resto do cluster fica à espera.

Lacunas de visibilidade. Se não conseguir ver onde se encontra cada unidade com número de série em cada fase de transferência, não poderá comprometer-se com uma data de entrada em funcionamento com confiança. E uma data de entrada em funcionamento na qual não pode confiar é uma data de receitas que não pode prever.

Como é o transporte de um rack de GPUs em boas condições

Chega de teoria. Aqui está um recibo.

Uma empresa líder no setor do «neocloud» precisava de transferir uma infraestrutura de 300 GB de GPUs para um centro de dados, de acordo com um calendário de implementação em tempo real. A remessa foi transportada em três Boeing 747 fretados, ao abrigo de uma cadeia de custódia verificada de ponta a ponta. O resultado final: 0 dólares em danos, zero incidentes e 100% de cadeia de custódia desde a origem até ao piso do centro de dados.

Nada disso é mero adorno. Zero danos significa zero ciclos de RMA e zero racks retirados da implantação. Zero incidentes significa que a data de entrada em funcionamento foi cumprida. Uma cadeia de custódia completa significa que o operador pôde prever a data de geração de receitas, pois podia confiar na data de entrega.

Esse resultado não se deveu à sorte. A Omni opera no corredor tecnológico de Taiwan desde 2006, com armazéns ligados diretamente ao aeroporto, o que reduz o tempo de permanência e a exposição ao ar livre de cargas de elevado valor e permite a integração direta na rede aérea. Quando a implantação global de infraestruturas de IA ganhou escala, essa presença já estava consolidada.

Sincronizar todas as cadeias de abastecimento com uma única data de implementação

Colocar um cluster em funcionamento não se resume a uma única remessa. Trata-se da coordenação de várias cadeias de abastecimento independentes, incluindo GPUs, redes, armazenamento, distribuição de energia e refrigeração, todas a convergirem para um único calendário de implementação. Cada componente tem uma função e uma data. Quanto mais alinhadas estiverem essas datas, mais cedo o cluster entrará em funcionamento e mais cedo começará a gerar receitas.

É nessa coordenação que se concentra o risco de execução, e é isso que distingue um transitário de um parceiro logístico. Qualquer pessoa consegue transportar uma caixa. O valor reside em manter todo o processo sincronizado, para que as GPUs não fiquem ociosas à espera de energia e a energia não fique ociosa à espera dos racks.

Como a Omni implementa a infraestrutura de GPU dentro do prazo

Cada um dos problemas acima corresponde a algo que a Omni já implementou, com base em resultados concretos e não num plano de ação:

• Presença no corredor de Taiwan desde 2006. Os armazéns ligados ao aeroporto reduzem o tempo de permanência e a exposição em terra no ponto de origem e permitem integrar os sistemas de prateleiras na rede aérea antes que fiquem retidos numa fila de carga geral.
• Capacidade de voos charter dedicados. Quando uma implantação do GB300 não pode esperar pelo espaço de carga no porão, a Omni transporta-a de acordo com o seu próprio horário, tal como fez com três Boeing 747 fretados para um dos principais fornecedores de serviços de «neocloud».
• Cadeia de custódia ao nível da série. Cada transferência é verificada desde a fábrica, passando pela receção no armazém, até ao espaço do centro de dados, para que a data de entrada em funcionamento e a data de receita a ela associada se mantenham válidas.
• Coordenação de múltiplas cadeias de abastecimento. O Omni sincroniza as GPUs, as redes, o armazenamento e o fornecimento de energia para uma única data de implementação, de modo a que nenhum fluxo fique inativo à espera de outro.
• Um resultado comprovado. Essa mudança foi concluída sem quaisquer danos, sem incidentes e com uma cadeia de custódia a 100%. Zero ciclos de RMA, zero racks retirados e o calendário foi cumprido na íntegra.