O Google está lançando uma nova estratégia para aprimorar a performance de seus chips de inteligência artificial com o PyTorch, a plataforma de IA mais popular do mundo, como parte de um esforço para diminuir a hegemonia da Nvidia no setor de computação em IA, conforme revelado por fontes a par do assunto. Essa ação integra um plano ambicioso do Google para posicionar suas unidades de processamento de tensores (TPUs) como uma alternativa competitiva às GPUs de ponta da Nvidia.
As vendas de TPUs se tornaram uma fonte vital de crescimento para a receita de computação em nuvem do Google, que busca demonstrar aos investidores que suas aplicações em IA estão trazendo resultados positivos. No entanto, apenas o hardware não é suficiente para fomentar a adoção. A nova iniciativa, denominada internamente de “TorchTPU”, visa eliminar um obstáculo significativo que tem dificultado a aceitação dos chips TPU, assegurando a total compatibilidade e facilidade de desenvolvimento para clientes que já utilizam a infraestrutura baseada no PyTorch, segundo as fontes.
Além disso, o Google está considerando abrir partes do software para acelerar a adoção entre os usuários, de acordo com algumas das fontes consultadas. Em comparação com tentativas anteriores de suporte ao PyTorch em TPUs, a empresa tem dedicado mais foco organizacional, recursos e prioridade estratégica ao projeto TorchTPU, especialmente com o aumento da demanda por parte das empresas que desejam adotar esses chips, mas enfrentam dificuldades devido à pilha de software.
O PyTorch, um projeto de código aberto amplamente apoiado pela Meta, é uma das ferramentas mais utilizadas por desenvolvedores que criam modelos de IA. Na região do Vale do Silício, poucos programadores escrevem cada linha de código que será executada pelos chips da Nvidia, AMD ou Google. Em vez disso, eles dependem de ferramentas como o PyTorch, que oferece uma coleção de bibliotecas e estruturas de código pré-escrito, automatizando diversas tarefas comuns no desenvolvimento de software de IA.
Desde seu lançamento em 2016, a trajetória do PyTorch está intimamente ligada à evolução do CUDA da Nvidia, um software que analistas de Wall Street consideram a principal defesa da empresa contra concorrentes. Os engenheiros da Nvidia dedicaram anos para garantir que o software criado com o PyTorch funcionasse da maneira mais rápida e eficiente em seus chips.
Por outro lado, o Google historicamente orientou seus desenvolvedores a utilizarem uma estrutura diferente chamada Jax, enquanto seus chips TPU operam com uma ferramenta conhecida como XLA para executar esse código de forma eficiente. Grande parte da pilha de software de IA e da otimização de desempenho desenvolvida pelo Google foi construída em torno do Jax, ampliando a distância entre a forma como a empresa utiliza seus chips e as preferências dos clientes.
Um porta-voz do Google Cloud não comentou sobre os detalhes do projeto, mas confirmou à Reuters que a mudança proporcionará mais opções aos clientes. “Estamos enfrentando uma demanda crescente e acelerada por nossa infraestrutura de TPU e GPU”, afirmou o porta-voz. “Nosso objetivo é oferecer a flexibilidade e a escalabilidade necessárias para que os desenvolvedores possam construir com o hardware de sua escolha.”
Historicamente, a Alphabet reservava a maior parte de seus chips TPUs para uso interno, mas essa abordagem mudou em 2022, quando a divisão de computação em nuvem do Google conseguiu supervisionar o grupo responsável pela comercialização dos TPUs. Essa alteração ampliou significativamente a distribuição dos chips no Google Cloud, e com o crescente interesse em IA, a empresa buscou aumentar a produção e as vendas de TPUs para clientes externos.
Contudo, a incompatibilidade entre as estruturas PyTorch, amplamente utilizadas pelos desenvolvedores de IA, e as estruturas Jax, que são mais adequadas para os chips do Google, representa um desafio, dificultando a adoção fácil dos chips do Google e seu desempenho comparável ao das GPUs da Nvidia, sem que os desenvolvedores realizem um trabalho adicional considerável. Esse trabalho consome tempo e recursos em um cenário de rápida evolução da IA.
Se a iniciativa “TorchTPU” se mostrar bem-sucedida, poderá reduzir significativamente os custos de transição para empresas que buscam alternativas às GPUs da Nvidia. O domínio da Nvidia não se baseia apenas em seu hardware, mas também em seu ecossistema de software CUDA, que está profundamente integrado ao PyTorch e se estabeleceu como o padrão na formação e execução de grandes modelos de IA.
Os clientes corporativos têm informado ao Google que a adoção das TPUs é mais desafiadora para cargas de trabalho de IA, pois historicamente essas exigem que os desenvolvedores migrem para o Jax, uma estrutura interna do Google, em vez de utilizar o PyTorch, que é amplamente adotado. Para facilitar o desenvolvimento, o Google está colaborando de perto com a Meta, a empresa responsável pelo PyTorch, conforme relatado por fontes. Ambas as gigantes da tecnologia estão explorando acordos que permitirão à Meta acessar mais TPUs.
As iniciais propostas para a Meta foram estruturadas como serviços gerenciados pelo Google, permitindo que clientes como a Meta instalem chips projetados para executar software e modelos do Google, com suporte operacional fornecido pela empresa. A Meta possui interesse estratégico em desenvolver software que simplifique a execução de TPUs, buscando reduzir os custos de inferência e diversificar sua infraestrutura de IA para além das GPUs da Nvidia, visando fortalecer seu poder de negociação.
A Meta não se pronunciou sobre o assunto. Neste ano, o Google começou a vender TPUs diretamente para os data centers dos clientes, ao invés de restringir o acesso à sua própria nuvem. Amin Vahdat, um veterano da empresa, foi nomeado recentemente como o novo chefe da infraestrutura de IA, reportando-se diretamente ao CEO, Sundar Pichai. O Google necessita dessa infraestrutura tanto para operar seus próprios produtos de IA, como o chatbot Gemini e sua pesquisa baseada em IA, quanto para oferecer serviços aos clientes do Google Cloud, que fornece acesso a TPUs para empresas de IA, como a Anthropic.
