A Dell deixou claro em seu evento Tech World deste ano que IA não apenas veio para ficar, como veio para mudar o mundo em muitos sentidos. E, para dar conta de tanta expectativa, a marca vem diversificando e ampliando seu portfólio de soluções, com o Dell AI Factory que promete entregar a maior eficiência e o menor consumo para seus clientes.

Para entender um pouco mais sobre a importância das inovações em servidores da Dell e quais os desafios que precisam ser superados no setor, conversamos com Mohan Rokkam, gerente de marketing e produtos de servidores da Dell. Ele comentou sobre os avanços da empresa nos últimos anos e as expectativas para a evolução da Inteligência Artificial.

Meu nome é Mohan Rokkam e trabalho na equipe de marketing técnico de servidores Dell PowerEdge. Sou engenheiro de marketing técnico. O foco da minha função é principalmente realizar análises de testes de desempenho e tentar mostrar como nosso servidor pode ajudar os clientes com a carga de trabalho que eles executam.

Confira a entrevista completa abaixo.

TC: Quais os maiores desafios no desenvolvimento de servidores na “era da IA”?

Mohan Rokkam: O espaço da IA ​​está evoluindo muito rapidamente. Acho que um dos maiores desafios que enfrentamos é como desenvolver algo em tão pouco tempo. A Nvidia fala "temos o B200, ah, agora temos o B300". Então, seus ciclos de vida de desenvolvimento, que costumavam ser em torno de dois anos para o desenvolvimento de um servidor, estão sendo reduzidos para seis meses. Então, esses são os tipos de problemas que considero os maiores desafios.

E, especialmente no espaço da IA, muitos dos clientes com quem conversamos não entendem necessariamente como usar a IA completamente. Eles sabem o que querem alcançar com isso. Mas como chegam lá? Ainda é um pouco confuso. Então, traduzindo, sabe, como dimensionar seu servidor corretamente? Como otimizá-lo corretamente? Como projetá-los para serem mais fáceis de combinar quando você usa centenas de quilowatts de energia e cada GPU é tão densa em energia e resfriamento? Esses são os desafios, eu acho. Parecem desafios que enfrentamos.

TC: E a parte térmica e de consumo energético tem um grande papel nesse desafio, certo?

Mohan Rokkam: Sim, mas vai além da Dell. A Dell tem se esforçado muito para otimizar a temperatura. Também conversamos sobre como podemos melhorar as cargas de trabalho para que se tornem mais eficientes termicamente. É possível fazer algo em menor escala e, em seguida, expandir o que for mais eficiente? Essas são áreas em que definitivamente entramos. Estamos desenvolvendo muitos designs novos.

Não sei se vocês já viram alguns dos nossos conceitos Astro. Algumas dessas coisas foram projetadas para serem mais eficientes na forma como capturamos o calor, como redistribuímos o calor e resfriamos as coisas sem perdê-lo na atmosfera ou no data center. Portanto, há algumas perdas térmicas que podem ocorrer. Estamos tentando ver como podemos reduzir essas perdas e mantê-las mais contidas, além de atender às demandas de nossos clientes, que exigem os servidores mais potentes do mercado.

TC: Uma linha que vem ganhando bastante força nos estudiosos de IA é que o futuro da IA é híbrido, com processamento diluído desde a borda até os servidores. A Dell compartilha desse pensamento?

Mohan Rokkam: Olhando para os produtos Dell que temos, vendo o AI Factory, vendo tudo o que lançamos. No fim das contas, os servidores são essenciais, não importa o que aconteça. Seja híbrido ou não, temos plataformas na borda às quais é possível adicionar uma GPU, e essa é a oferta de borda. Podemos chamar de Private Cloud. Fornecemos servidores de IA para grandes provedores de nuvem.

Então, na minha opinião, não fazemos muita distinção entre borda ou não, consideramos todas as áreas onde os clientes podem usar aplicativos de IA e queremos habilitar a IA em qualquer lugar. Agora, é nossa preocupação e muitos de nossos clientes compartilharam suas preocupações sobre a localidade dos dados, a segurança dos dados, o custo de execução e essas coisas.

Portanto, nosso objetivo é oferecer a eles o melhor desempenho e o melhor custo total de propriedade (TCO) para essas plataformas. É isso que eu acho que a Dell está realmente impulsionando ao apresentar um caso de uso de ponta a ponta.

TC: Complementando a pergunta anterior. O portfólio de AI PCs da Dell, incluindo workstations robustas como o novo Dell Pro Max Plus com NPU dedicada da Qualcomm, pode ajudar a Dell a “mostrar” as possibilidades de IA para pequenas empresas, para que elas então decidam escalar isso para soluções mais robustas?

Mohan Rokkam: Acho que esse é um ponto muito válido. Temos o Dell Pro Max, que tem NPU, e isso é algo que todos os fornecedores ainda estão oferecendo, a Qualcomm tem alguns com NPU, temos opções da Intel e da AMD também chegando, e essas estão no roteiro. Acho que também temos workstations de nível básico, que também são realmente destinadas ao desenvolvimento de mais casos de uso de IA e, em seguida, à escalabilidade conforme necessário.

Acho que todas elas, como a IA é tão nova, as pessoas vão experimentá-la onde puderem. Alguns softwares ainda não estão totalmente prontos. Acho que é aí que muitas empresas estão inovando. Muitas startups estão inovando e veremos muito mais acontecer. Acho que estamos nos estágios iniciais da IA. Queremos facilitar a adoção da IA ​​para todos. Esse é o objetivo, realmente é. Quer dizer, as pessoas falam sobre transformação digital. Estamos agora na era da transformação da IA, por assim dizer, e é isso que eu sinto. Estou bastante animado. Tenho certeza que você também.

TC: A Dell mostrou avanços importantes com diferentes parceiras esse ano, incluindo Intel, Nvidia, AMD e Qualcomm. Qual a importância de trabalhar com tantos parceiros distintos, especialmente em um cenário de insegurança econômica ao redor do mundo?

Mohan Rokkam: Acho que, da perspectiva da Dell, o que temos discutido internamente, em nossa equipe, é que a diversidade de silício representa melhores opções para nossos clientes. Somos movidos principalmente pelas necessidades dos clientes e estamos vendo os benefícios. Temos clientes que nos perguntam se temos um determinado processador, se temos mais eficiência, se temos mais desempenho. Portanto, no geral, é mais uma iniciativa impulsionada pelo cliente do que por outras coisas.

TC: Se você pudesse resumir a edição deste ano do Dell Tech World em uma palavra, qual seria ela? E não vale IA.

Mohan Rokkam: Cara, IA era a minha resposta fácil (risos). Acho que posso resumir em duas palavras e chamar de transformação da IA. Certo? O que é um pouco mais sutil ao dizer apenas IA. Se não, eu diria sustentabilidade. Porque também estamos fazendo muito nessa área, porque entendemos os desafios que isso traz por causa da IA, e você viu o conceito Astro, viu nossos PowerCool Enclosed Rear Door Heat Exchanger (eRDHx), estamos vendo em todas essas áreas que estamos buscando opções e como podemos ser mais sustentáveis ​​em nosso ecossistema atual.