A medida que la IA deja de ser un chatbot y se convierte en un agente autónomo, los costos de cómputo pasan a dominar la conversación. Es en ese punto donde Nvidia apuesta este martes (11): la empresa amplió la familia Nemotron 3 con el Nemotron 3.5 Lightning, un modelo abierto de 30.000 millones de parámetros con arquitectura de mezcla de expertos (MoE), y lanzó NeMo Switchyard, una biblioteca de código abierto para "enrutar" cada llamada al modelo más adecuado.
La idea es atacar uno de los problemas más caros de los agentes modernos. Los sistemas autónomos "siempre encendidos" funcionan cada vez más como conjuntos de modelos: un modelo de razonamiento de frontera — como el Nemotron 3 Ultra o el GPT-5.6 — planifica y orquesta el flujo, mientras que los modelos más pequeños y especializados ejecutan tareas concretas, como revisar código, usar herramientas, monitorear alertas de seguridad o responder preguntas de facturación. El cuello de botella es que usar el modelo gigante para todo es lento y caro.
Ahí entra el 3.5 Lightning. Según Nvidia, ofrece hasta 4x más velocidad de salida y un 30% más de rapidez en la conclusión de tareas agénticas en comparación con otros modelos de su clase, manteniendo precisión de frontera en los benchmarks PinchBench. Y, como es abierto y personalizable, puede afinarse con NeMo para los datos, herramientas y flujos de trabajo específicos de cada organización.
Switchyard, por su parte, es la pieza que lo ata todo. Se trata de una biblioteca de enrutamiento inteligente que decide, en cada solicitud, cuál de los modelos de la mezcla — abierto, propietario o de la propia Nvidia — es el más capaz y eficiente para la tarea, sin que el desarrollador tenga que reescribir la aplicación. En la práctica, es como un controlador de tráfico que envía cada vehículo al carril correcto en lugar de dejar que todos crucen la misma autopista.
Los primeros adoptantes sugieren hacia dónde quiere ir la empresa: CrowdStrike está personalizando el modelo para ciberseguridad, Harvey (con Trajectory) para servicios jurídicos y CodeRabbit (con Baseten) para revisión de código. Son casos de uso de alto volumen, donde el costo por llamada y la latencia pesan más que la máxima potencia bruta.
La jugada de Nvidia tiene una lectura estratégica clara. La empresa construyó su fortuna vendiendo los chips que entrenan los mayores modelos del mundo, pero el mercado de inferencia — ejecutar esos modelos día a día — es donde tiende a concentrarse la demanda de largo plazo. Al mismo tiempo que vende el hardware para entrenar el modelo de frontera, ofrece el software y el modelo pequeño que abaratan la operación de los agentes. Es una apuesta por todo el ciclo, no solo por la cima.
Hay, sin embargo, una tensión que se vuelve evidente. Si enrutadores como Switchyard difunden la práctica de usar modelos pequeños para la mayoría de las tareas y reservar los gigantes para lo que de verdad lo requiere, la demanda de GPUs de gama alta para inferencia podría ser menor de lo que el mercado valora. Nvidia, al parecer, prefiere canibalizar parte de ese crecimiento antes que perder la carrera de los agentes frente a competidores con modelos abiertos más eficientes.
Lo que el lanzamiento revela, al final, es el nuevo consenso de la industria: el futuro de los agentes no pertenece a un único modelo omnipotente, sino a sistemas de modelos que intercambian inteligencia por eficiencia en tiempo real. Para las empresas, la noticia es buena — significa agentes más baratos y escalables. Para el mercado de chips, la incómoda pregunta es cuánto de ese futuro dominará Nvidia — y cuánto de él ayudará la propia empresa a comprimir.
Fuentes: NVIDIA Blog, Quartz, Hugging Face
✓ Fuentes independientes cruzadas y verificadas antes de la publicación
