Resultados de benchmarks divulgados pela Intel sugerem que os aceleradores Gaudi 2 são capazes de superar as GPUs da NVIDIA em inteligência artificial. De acordo com testes realizados pela Stability AI, os Gaudi 2 foram 55% mais rápidos que os NVIDIA H100 e três vezes mais rápidos que as A100 em benchmarks sintéticos de IA.

Essa comparação é feita considerando apenas as soluções da NVIDIA atualmente disponíveis no mercado, já que os aceleradores com arquitetura Blackwell serão apresentados na próxima semana durante a GTC 2024. A Intel também está desenvolvendo os aceleradores Gaudi 3 para competir com a próxima geração de GPUs NVIDIA para IA.

Os testes envolveram o modelo Stable Diffusion 3, utilizado para IA generativa de texto para imagem. Os Gaudi 2 alcançaram 927 imagens por segundo, enquanto os NVIDIA H100 chegaram a 595 e as A100 apenas a 381.

Embora as GPUs da NVIDIA dominem amplamente a infraestrutura de IA atual, especialmente em serviços baseados em modelos como GPT, a Intel está otimizando rapidamente o desempenho de seus aceleradores para estabelecer uma oferta competitiva no mercado.

O objetivo da Intel não é forçar as empresas que já utilizam aceleradores de IA a migrarem para os Gaudi, mas sim oferecer uma alternativa competitiva. Isso pode garantir contratos com clientes que ainda não adotaram plataformas de IA, além de possibilitar atualizações e expansões de infraestrutura.

É importante observar que as GPUs são mais eficientes no treinamento de modelos de linguagem natural, enquanto as execuções de inferência são geralmente processadas em CPUs.