Amazon lança TorchNeuron para desafiar o domínio da Nvidia com uma linha de código

A Amazon Web Services lançou o TorchNeuron, uma ferramenta que permite que aplicativos de inteligência artificial escritos em PyTorch rodem nativamente nos chips Trainium da empresa com uma única alteração de configuração — sem reescrever o código. O anúncio foi feito na segunda-feira (19) como parte da conferência PyTorch Conference North America, em San Jose, Califórnia, e marca o ataque mais direto da Amazon ao fosso de software que consolidou a Nvidia como a escolha padrão para desenvolvedores de IA.

O TorchNeuron é um backend nativo para PyTorch que se integra ao framework através de PrivateUse1, o ponto de extensão oficial que o PyTorch fornece para novo hardware, e por meio das APIs `torch.accelerator`. Para desenvolvedores, isso significa que escrever `.to('neuron')` em vez de `.to('cuda')` é a diferença entre usar um chip da Nvidia e um Trainium — sem necessidade de modificar as chamadas de API ou reestruturar o modelo.

O fosso da Nvidia

A Nvidia passou mais de uma década construendo o CUDA, sua camada de software que permite que código PyTorch execute eficientemente em seus GPUs. O resultado foi uma armadilha de switch (lock-in) tão eficaz que, mesmo empresas que desenvolvem seus próprios chips de IA — Amazon, Google e Microsoft — continuam sendo os maiores clientes da Nvidia. A infraestrutura de IA moderna foi construída em torno do CUDA: bibliotecas otimizadas, ferramentas de profiling, ecossistemas de frameworks. A migração não era apenas uma questão de custo de hardware, mas de produtividade de desenvolvimento.

Segundo a própria Amazon, 85% dos pesquisadores e desenvolvedores de IA escrevem código em PyTorch, o framework originalmente desenvolvido pelo Facebook e transferido para a Linux Foundation em 2022. A estratégia da Amazon é clara: em vez de tentar convencer os desenvolvedores a abandonarem PyTorch — algo inviável dado o domínio do framework —, ela torna o Trainium o destino mais fácil dentro do próprio PyTorch.

O que o TorchNeuron faz de fato

Colin Brace, vice-presidente de software da Annapurna Labs (a unidade de design de chips da Amazon), explicou que antes do TorchNeuron, desenvolvedores que queriam rodar código PyTorch no Trainium precisavam modificá-lo para chamar APIs específicas da Amazon. Com a nova ferramenta, o mesmo código funciona após uma mudança básica de configuração.

"Se você conhece PyTorch, conhece Trainium," disse Brace em entrevista à GeekWire.

O TorchNeuron suporta dois modos de execução:

- Modo Eager: cada operação é executada imediatamente, permitindo que fluxo de controle Python, prints e breakpoints funcionem como esperado — ideal para desenvolvimento e debugging. - torch.compile: o caminho de produção, que captura o grafo do modelo e o entrega ao compilador Neuron através de Torch-MLIR e StableHLO, dois formatos intermediários usados por compiladores de aprendizado de máquina.

Para treinamento distribuído, o suporte inclui DDP, FSDP2, paralelismo de tensor, paralelismo de pipeline, ZeRO, DTensor e DeviceMesh. Os formatos numéricos suportados são BF16, FP32 e FP16. FP8 e a biblioteca de quantização TorchAO estão em beta privado, com disponibilidade geral planejada para a próxima release.

A ferramenta roda em Trainium2 e Trainium3, e pode ser instalada via `pip install torch-neuronx` a partir do repositório Neuron da Amazon.

O que a Amazon não esconde

Diferente de muitos lançamentos de hardware que escondem suas limitações, a Amazon publicou sua própria lista de lacunas. Em agosto de 2026, a empresa executou o conjunto de testes upstream do PyTorch contra o TorchNeuron. Os resultados foram:

| Resultado | Contagem aproximada | |---|---| | Total de resultados de teste | 154.000 | | Testes ignorados | 69.000 | | Ignorados por motivos gerais do PyTorch | 30.000 | | Ignorados por motivos específicos do Neuron | 39.000 | | Operadores sem lowering nativo ainda | 22.000 |

Os 22.000 operadores sem lowering nativo representam famílias inteiras de operações: elementwise, reduction, advanced indexing, advanced linear algebra e células LSTM e GRU fundidas. A Amazon diz que essas funcionalidades serão entregues em releases sequenciais.

Outras limitações notáveis incluem:

- Formas dinâmicas e simbólicas — variáveis de comprimento são a norma no treinamento de modelos de linguagem. - Tensores esparsos e NestedTensor. - Autodiff no modo forward. - Upsampling bilinear e bicúbico.

A Amazon também varreu 100.000 modelos do Hugging Face (cobrindo 99,9% do uso por downloads), testando carregamento, passes forward/backward e compilação. Não divulgou a taxa de aprovação.

O contexto mais amplo

O TorchNeuron faz parte de um movimento mais amplo entre os gigantes de tecnologia para afrouxar a grip da Nvidia sobre a computação de IA — mesmo enquanto continuam sendo seus maiores compradores. A Microsoft anunciou semana passada que pretende rodar a maioria de seus serviços de IA em seus próprios chips Maia. Google também tem chips custom e trabalha em ferramentas PyTorch melhores. A própria Amazon está em negociações para adquirir a Decart, uma startup de $7 bilhões que faz software para migrar modelos de IA de chips Nvidia para alternativas como o Trainium.

Os maiores usuários atuais do Trainium são laboratórios de IA com vínculos financeiros próximos à Amazon. A Anthropic usa os chips para treinar e executar seus modelos Claude, após a Amazon ter investido bilhões na empresa. A OpenAI concordou em fevereiro em usar 2 gigawatts de capacidade Trainium como parte de um acordo no qual a Amazon está investindo $50 bilhões.

A Amazon também está contribuindo alterações upstream no PyTorch para remover código que liga o framework a chips específicos, tornando o PyTorch mais agnóstico ao hardware para toda a comunidade de desenvolvedores — não apenas para usuários do Trainium.

O que esperar

O TorchNeuron representa um passo significativo na desconexão entre PyTorch e a Nvidia — mas está longe de ser um ponto de virada definitivo. As 22.000 operações sem suporte nativo e a falta de formas dinâmicas são limitações sérias para muitos casos de uso reais. O fato de a Amazon publicar suas próprias lacunas é um sinal de maturidade, mas também de que o produto está em estágio inicial.

O que não se pode negar é a estratégia: em vez de lutar contra a corrente, a Amazon está tentando ser o rio que leva os desenvolvedores diretamente até seus chips. Se o TorchNeuron entregar o que promete — e se a Amazon conseguir manter o ritmo de lançamento de novas funcionalidades —, o impacto pode ser maior do que qualquer argumento de preço ou performance pura. A Nvidia construiu seu império sobre software, não hardware. E a Amazon está vindo com o peso de sua infraestrutura de nuvem para tentar algo que poucos conseguiram: fazer os desenvolvedores esquecerem o CUDA sem nem perceber que mudaram de plataforma.

Fontes: TechCrunch, GeekWire, LDS (Let's Data Science), About Amazon, Investing.com (via Reuters)

✓ Fontes independentes cruzadas e verificadas antes da publicação