À medida que a IA deixa de ser um chatbot e se torna um agente autônomo, os custos de computação passam a dominar a conversa. É nesse ponto que a Nvidia aposta nesta terça-feira (11): a empresa ampliou a família Nemotron 3 com o Nemotron 3.5 Lightning, um modelo aberto de 30 bilhões de parâmetros com arquitetura de mistura de especialistas (MoE), e lançou o NeMo Switchyard, uma biblioteca de código aberto para "rotear" cada chamada ao modelo mais adequado.
A ideia é atacar um dos problemas mais caros dos agentes modernos. Sistemas autônomos "sempre ligados" funcionam cada vez mais como conjuntos de modelos: um modelo de raciocínio de fronteira — como o Nemotron 3 Ultra ou o GPT-5.6 — planeja e orquestra o fluxo, enquanto modelos menores e especializados executam tarefas específicas, como revisar código, usar ferramentas, monitorar alertas de segurança ou responder perguntas de cobrança. O gargalo é que usar o modelo gigante para tudo é lento e caro.
É aí que entra o 3.5 Lightning. Segundo a Nvidia, ele entrega até 4x mais velocidade de saída e 30% mais rapidez na conclusão de tarefas agênticas em comparação a outros modelos de sua classe, mantendo acurácia de fronteira nos benchmarks PinchBench. E, como é aberto e personalizável, pode ser refinado com o NeMo para dados, ferramentas e fluxos de trabalho específicos de cada organização.
O Switchyard, por sua vez, é a peça que amarra tudo. Trata-se de uma biblioteca de roteamento inteligente que decide, a cada request, qual modelo da mistura — aberto, proprietário ou da própria Nvidia — é o mais capaz e eficiente para a tarefa, sem que o desenvolvedor precise reescrever a aplicação. Na prática, é como um controlador de tráfego que manda cada veículo para a pista certa em vez de deixar todos atravessarem a mesma rodovia.
Os primeiros adotantes sugerem onde a empresa quer chegar: a CrowdStrike está personalizando o modelo para cibersegurança, a Harvey (com Trajectory) para serviços jurídicos e a CodeRabbit (com Baseten) para revisão de código. São casos de uso de alto volume, em que o custo por chamada e a latência pesam mais do que a máxima potência bruta.
A jogada da Nvidia tem leitura estratégica clara. A empresa construiu a fortuna vendendo os chips que treinam os maiores modelos do mundo, mas o mercado de inferência — a execução desses modelos no dia a dia — é onde a demanda de longo prazo tende a se concentrar. Ao mesmo tempo em que vende o hardware para treinar o modelo de fronteira, ela oferece o software e o modelo pequeno que barateiam a operação de agentes. É uma aposta em todo o ciclo, não só no topo.
Há, porém, uma tensão que fica evidente. Se roteadores como o Switchyard difundem a prática de usar modelos pequenos para a maioria das tarefas e reservar os gigantes para o que realmente exige, a demanda por GPUs topo de linha para inferência pode ser menor do que o mercado precifica. A Nvidia, aparentemente, prefere canibalizar parte desse crescimento a perder a corrida dos agentes para concorrentes com modelos abertos mais eficientes.
O que o lançamento revela, no fim, é o novo consenso da indústria: o futuro dos agentes não pertence a um único modelo onipotente, mas a sistemas de modelos que trocam inteligência por eficiência em tempo real. Para as empresas, a notícia é boa — significa agentes mais baratos e escaláveis. Para o mercado de chips, a pergunta que fica no ar é mais incômoda: quanto desse futuro a Nvidia vai dominar e quanto dela mesma vai ajudar a comprimir?
Fontes: NVIDIA Blog, Quartz, Hugging Face
✓ Fontes independentes cruzadas e verificadas antes da publicação
