A NVIDIA está fazendo um alto investimento para os seus futuros produtos. Conforme noticiado pelo veículo coreano Chosun, a empresa aplicará mais de US$ 1 trilhão para comprar memórias HBM3e, que devem ser equipadas às suas GPUs H200 para uso com inteligência artificial. Inclusive, os acordos devem limitar o acesso aos componentes por outras companhias.

Em geral, esses acordos possuem valores que circulam entre US$ 700 bilhões e US$ 1 trilhão para a finalidade mencionada. Nesse sentido, vale destacar que a Samsung também teria formalizado um acordo para fornecer memórias HBM para a companhia, assim que os itens estiverem disponíveis para aquisição. No entanto, não foram revelados detalhe sobre isso.

Um movimento desse tipo pode parecer atípico em um primeiro momento e, além disso, é bastante arriscada, visto que os componentes farão parte de placas que sequer foram lançadas. Mas, analistas do setor de semicondutores projetam que o segmento de memórias NAND passará por outra crise em 2024.

Outro ponto importante é que o cenário não deve ter fim ainda em 2024, visto que a última crise ocorreu em 2018 e se estendeu por quase 3 anos. Dessa forma, a compra antecipada feita pela NVIDIA sinaliza uma preparação para que possa lidar com uma eventual escassez de produtos causada por essa nova crise.

New performance updates - H200 achieves nearly 12,000 tokens/sec on Llama2-13B with NVIDIA TensorRT-LLM. H200 is up to 1.9x faster than H100.

Learn more about how you can supercharge #LLM #inference with TensorRT-LLM and H200. #SC23 #HPC

➡️ https://t.co/lVGBhtNK6t pic.twitter.com/oC9OOlG7t3

— NVIDIA AI Developer (@NVIDIAAIDev) November 13, 2023

Ao levar em conta o cenário a longo prazo, a estratégia da NVIDIA pode funcionar para não sofrer impactos tão fortes. Do mesmo modo, o custo de produção e o preço final das placas não serão comprometidos por esse tipo de situação. Vale lembrar que a AMD trabalha com a tecnologia Instinct para uso com IA, assim como a Intel com o acelerador Gaudi 3.