Corrida de IA: ByteDance e Alibaba fazem encomendas maciças de placas de vídeo com a NVIDIA

De acordo com relatórios recentes do LatePost, importantes empresas chinesas de internet que possuem negócios de computação em nuvem fizeram grandes encomendas com a NVIDIA após o Ano Novo Chinês deste ano. A ByteDance, por exemplo, fez pedidos de mais de US$ 1 bilhão em GPUs da NVIDIA este ano. GPUs são peças responsáveis por processar imagens nos computadores.

Uma fonte próxima à NVIDIA afirmou que a ByteDance já recebeu um total de 100.000 placas aceleradoras A100 e H800, incluindo pedidos entregues e pendentes. É importante destacar que a produção do modelo H800 começou apenas em março deste ano. Foi revelado que os pedidos da ByteDance este ano podem se aproximar do número total de GPUs comerciais vendidas pela NVIDIA na China no ano passado.

Um funcionário interno da ByteDance compartilhou que, em junho de 2020, após o lançamento do GPT-3, a empresa treinou um modelo de linguagem generativa com vários bilhões de parâmetros usando o cartão de computação V100. No entanto, devido à escala limitada dos parâmetros, as capacidades de geração do modelo eram médias, e a ByteDance não viu seu potencial comercial na época.

Outra fonte da Alibaba Cloud revelou que a Alibaba também tem adquirido ativamente GPUs em 2018-2019. Naquela época, o volume de compras da Alibaba chegou a dezenas de milhares de unidades, incluindo os cartões de computação V100 e T4. Aproximadamente um décimo desses cartões foram enviados para a Damo Academy para pesquisa em tecnologia de IA e foram usados no modelo M6 de grande escala, com trilhões de parâmetros, lançado em 2021.

ByteDance e Alibaba: demanda em alta

A mesma fonte mencionou que grandes empresas como ByteDance e Alibaba negociam principalmente suas compras diretamente com a NVIDIA. A demanda dessas empresas é tão grande que os distribuidores e o mercado secundário têm dificuldade em atendê-las. No entanto, a NVIDIA oferece certos descontos com base na escala da compra.

O preço atual de um modelo A100 no site oficial da NVIDIA é de US$ 10.000, enquanto o modelo H100 custa US$ 36.000. Os modelos A800 e H800, lançados no mercado chinês no ano passado, são um pouco mais baratos. No entanto, devido a problemas de oferta e demanda, o preço da transação tende a ser mais alto.

Tradução: Mei Zhen Li
Fonte: Huanqiu