Amazon lança o TorchNeuron para desafiar a hegemonia da nvidia em IA

A Amazon Web Services (AWS) lançou o TorchNeuron, uma ferramenta que permite que startups de IA implantem aplicações nos chips de IA Trainium da Amazon com o mínimo de esforço. A ferramenta, compatível com o PyTorch, permite que os desenvolvedores migrem para o Trainium alterando apenas uma linha de configuração, eliminando a necessidade de reescrever o código. A Amazon afirma que 85% das aplicações de IA utilizam o PyTorch, um framework originalmente desenvolvido pelo Facebook e agora mantido pela Linux Foundation. A Nvidia tem apoiado o PyTorch através do CUDA, integrando profundamente o seu hardware no ecossistema. Colin Brace, Vice-Presidente de Software de Tecnologia da AWS Annapurna Labs, destacou que a integração do Trainium com a infraestrutura de nuvem da AWS oferece às startups uma solução de baixo custo para o treinamento e a inferência. Ele citou o aumento de 70% na eficiência do processamento de áudio da Deepgram como um exemplo. A Amazon também está a contribuir com código para o Py, com o objetivo de reduzir a dependência do hardware da Nvidia e tornar o framework mais independente de hardware. A medida posiciona a AWS como uma alternativa atraente aos provedores de nuvem centrados na Nvidia, como Coreweave e Nebius. Embora a estratégia da Amazon possa aumentar a escolha dos desenvolvedores, os críticos permanecem céticos em relação à redução de custos e aos potenciais desafios de configuração. Brace argumentou que o impacto mais amplo reside na quebra do bloqueio que tem limitado as opções dos desenvolvedores. À medida que o cenário da IA evolui, os esforços da Amazon para remodelar o PyTorch podem ter implicações significativas para a dominância da Nvidia no campo.