Amazon lanza TorchNeuron para desafiar el dominio de Nvidia con una línea de código
Amazon Web Services lanzó TorchNeuron, una herramienta que permite que aplicaciones de inteligencia artificial escritas en PyTorch se ejecuten de forma nativa en los chips Trainium de la empresa con un único cambio de configuración, sin necesidad de reescribir el código. El anuncio se realizó el lunes 19 como parte de la PyTorch Conference North America, en San José de California, y marca el ataque más directo de Amazon al foso de software que ha consolidado a Nvidia como la elección predeterminada para desarrolladores de IA.
TorchNeuron es un backend nativo para PyTorch que se integra al framework a través de PrivateUse1, el punto de extensión oficial que PyTorch proporciona para nuevo hardware, y por medio de las APIs `torch.accelerator`. Para los desarrolladores, esto significa que escribir `.to('neuron')` en lugar de `.to('cuda')` es la diferencia entre usar un chip de Nvidia y un Trainium — sin necesidad de modificar las llamadas a la API o reestructurar el modelo.
El foso de Nvidia
Nvidia ha pasado más de una década construyendo CUDA, su capa de software que permite que el código PyTorch se ejecute de manera eficiente en sus GPUs. El resultado fue una trampa de cambio (lock-in) tan efectiva que, incluso empresas que desarrollan sus propios chips de IA — Amazon, Google y Microsoft — continúan siendo los mayores clientes de Nvidia. La infraestructura de IA moderna fue construida en torno al CUDA: bibliotecas optimizadas, herramientas de profiling, ecosistemas de frameworks. La migración no era solo una cuestión de costo de hardware, sino de productividad del desarrollo.
Según la propia Amazon, el 85% de los investigadores y desarrolladores de IA escriben código en PyTorch, el framework originalmente desarrollado por Facebook y transferido a la Linux Foundation en 2022. La estrategia de Amazon es clara: en lugar de intentar convencer a los desarrolladores de abandonar PyTorch — algo inviable dado el dominio del framework —, convierte al Trainium en el destino más fácil dentro del propio PyTorch.
Qué hace TorchNeuron de verdad
Colin Brace, vicepresidente de software de la Annapurna Labs (la unidad de diseño de chips de Amazon), explicó que antes del TorchNeuron, los desarrolladores que querían ejecutar código PyTorch en el Trainium debían modificarlo para llamar a APIs específicas de Amazon. Con la nueva herramienta, el mismo código funciona tras un cambio básico de configuración.
"Si conoces PyTorch, conoces Trainium", dijo Brace en entrevista a GeekWire.
TorchNeuron soporta dos modos de ejecución:
- Modo Eager: cada operación se ejecuta inmediatamente, permitiendo que el flujo de control de Python, prints y breakpoints funcionen como se espera — ideal para desarrollo y debugging. - torch.compile: el camino de producción, que captura el grafo del modelo y lo entrega al compilador Neuron a través de Torch-MLIR y StableHLO, dos formatos intermedios usados por compiladores de aprendizaje automático.
Para entrenamiento distribuido, el soporte incluye DDP, FSDP2, paralelismo de tensor, paralelismo de pipeline, ZeRO, DTensor y DeviceMesh. Los formatos numéricos soportados son BF16, FP32 y FP16. FP8 y la biblioteca de cuantización TorchAO están en beta privada, con disponibilidad general planificada para la próxima versión.
El software se ejecuta en Trainium2 y Trainium3, y puede instalarse mediante `pip install torch-neuronx` desde el repositorio Neuron de Amazon.
Lo que Amazon no oculta
A diferencia de muchos lanzamientos de hardware que ocultan sus limitaciones, Amazon publicó su propia lista de lagunas. En agosto de 2026, la empresa ejecutó el conjunto de pruebas upstream del PyTorch contra TorchNeuron. Los resultados fueron:
| Resultado | Conteo aproximado | |---|---| | Total de resultados de prueba | 154.000 | | Pruebas omitidas | 69.000 | | Omitidas por motivos generales del PyTorch | 30.000 | | Omitidas por motivos específicos del Neuron | 39.000 | | Operadores sin lowering nativo aún | 22.000 |
Los 22.000 operadores sin lowering nativo representan familias enteras de operaciones: elementwise, reduction, advanced indexing, advanced linear algebra y celdas LSTM y GRU fusionadas. Amazon dice que estas funcionalidades serán entregadas en releases secuenciales.
Otras limitaciones notables incluyen:
- Formas dinámicas y simbólicas — las longitudes variables son la norma en el entrenamiento de modelos de lenguaje. - Tensores dispersos y NestedTensor. - Autodiff en modo forward. - Upsampling bilinear y bicúbico.
Amazon también escaneó 100.000 modelos de Hugging Face (cubriendo el 99,9% del uso por descargas), probando carga, passes forward/backward y compilación. No publicó la tasa de aprobación.
El contexto más amplio
TorchNeuron forma parte de un movimiento más amplio entre los gigantes de tecnología para aflojar la presa de Nvidia sobre la computación de IA — incluso mientras continúan siendo sus mayores compradores. Microsoft anunció la semana pasada que pretende ejecutar la mayoría de sus servicios de IA en sus propios chips Maia. Google también tiene silicio propio y trabaja en mejores herramientas PyTorch. La propia Amazon está en negociaciones para adquirir Decart, una startup de $7.000 millones que hace software para migrar modelos de IA de chips Nvidia a alternativas como el Trainium.
Los mayores usuarios actuales del Trainium son laboratorios de IA con vínculos financieros cercanos a Amazon. Anthropic usa los chips para entrenar y ejecutar sus modelos Claude, tras la inversión de miles de millones de dólares de Amazon en la empresa. OpenAI acordó en febrero usar 2 gigavatios de capacidad Trainium como parte de un acuerdo en el que Amazon invierte $50.000 millones.
Amazon también está contribuyendo cambios upstream al PyTorch para eliminar código que liga el framework a chips específicos, haciendo al PyTorch más agnóstico al hardware para toda la comunidad de desarrolladores — no solo para usuarios del Trainium.
Qué esperar
TorchNeuron representa un paso significativo en la desconexión entre PyTorch y Nvidia — pero está lejos de ser un punto de inflexión definitivo. Las 22.000 operaciones sin soporte nativo y la falta de formas dinámicas son limitaciones graves para muchos casos de uso reales. El hecho de que Amazon publique sus propias lagunas es señal de madurez, pero también de que el producto está en etapas tempranas.
Lo que no se puede negar es la estrategia: en lugar de luchar contra la corriente, Amazon está tratando de ser el río que lleva a los desarrolladores directamente a sus chips. Si TorchNeuron entrega lo que promete — y si Amazon logra mantener el ritmo de lanzamiento de nuevas funcionalidades —, el impacto podría ser mayor que cualquier argumento de precio o rendimiento puro. Nvidia construyó su imperio sobre software, no hardware. Y Amazon viene con el peso de su infraestructura de nube para intentar algo que pocos lograron: hacer que los desarrolladores olviden CUDA sin ni siquiera darse cuenta de que cambiaron de plataforma.
Fuentes: TechCrunch, GeekWire, LDS (Let's Data Science), About Amazon, Investing.com (via Reuters)
✓ Fuentes independientes cruzadas y verificadas antes de la publicación