A NVIDIA anunciou nesta segunda-feira, 24 de agosto, que o Groq 3 LPX — seu acelerador de inferência projetado especificamente para sistemas de IA autônoma — entrou em produção em escala. Lançado como complemento à plataforma Vera Rubin NVL72, o chip marca a primeira vez que uma arquitetura dedicada de geração de tokens ultra-rápidos é disponibilizada para uso comercial em data centers de grande porte.
Diferente do que se vê em chips convencionais de IA, que tentam fazer tudo com o mesmo hardware, o Groq 3 LPX foi concebido para resolver um problema específico e crônico: a latência de "decode". Quando um agente de IA trabalha com janelas de contexto enormes — 100 mil tokens ou mais —, ele precisa primeiro processar e entender aquela massa de informação (o "prefill") e depois gerar sua resposta token por token (o "decode"). Tradicionalmente, as GPUs encaravam ambas as etapas. Mas enquanto o prefill pode ser paralelizado massivamente, o decode é inerentemente sequencial. Um único token precisa ser gerado antes do próximo pode começar. Esse gargalo faz com que agentes travem em pausas visíveis enquanto processam tarefas complexas em cadeia.
O Groq 3 LPX resolve isso com uma divisão de responsabilidades. As GPUs Rubin processam o contexto em massa; os LPUs (unidades de processamento de linguagem, herdadas da aquisição da Groq Inc. em dezembro de 2025) assumem a geração de tokens com latência determinística. O resultado, segundo a NVIDIA, é um sistema em que um rack completo de 72 GPUs trabalha em tandem com até 256 aceleradores LP30, interligados por NVLink de sexta geração. A separação não é só teórica — os dados de benchmark são explícitos. Em testes da Artificial Analysis, o Groq 3 LPX gerou 3.400 tokens por segundo no modelo aberto Gemma 4 31B com janela de 100 mil tokens. Segundo a empresa, isso equivale a ser quatro vezes mais responsivo do que qualquer plataforma concorrente, reduzindo tarefas que antes levavam horas para serem concluídas em minutos.
Mas o lançamento vai além de números de benchmark. A NVIDIA já tem clientes. A Nebius, provedora de nuvem focada em IA, foi a primeira a adotar o chip e pretende integrá-lo ao Nebius Token Factory, sua plataforma de inferência em produção. Segundo o CTO da Nebius, Danila Shtan, a ideia é garantir que "cada passo do loop de um agente pareça instantâneo". A Groq (a própria empresa cujos chiplets deram origem ao LPX) também será adotante, assim como a SpaceX, que anunciou que usará o Vera CPU da plataforma Vera Rubin para orquestração de agentes em data centers terrestres e satélites orbitais.
O que torna essa arquitetura particularmente relevante é a mudança de paradigma na indústria. Durante anos, o custo dominante em IA esteve no treinamento — treinar um modelo de fronteira exigia clusters de milhares de GPUs rodando por meses. Agora, com modelos cada vez mais capazes, o gargalo mudou para a inferência. Um agente bem-sucedido não faz uma única pergunta; ele executa centenas ou milhares de iterações de inferência por tarefa — lendo arquivos, chamando APIs, verificando resultados, reescrevendo código e chamando ferramentas externas. Cada iteração gera tokens. Cada token custa infraestrutura. Se a geração de tokens é lenta, o agente não é apenas lento — ele é economicamente inviável.
Isso explica por que a NVIDIA está posicionando o Vera Rubin como uma "fábrica de tokens" — uma arquitetura onde computação, rede e aceleração de inferência são projetados como um sistema unificado, não como componentes empilhados. O Grove de comunicação via Spectrum-X Multiplane, por exemplo, permite escalar clusters com até 512 mil GPUs em redes planas, sem as oscilações de latência que afetam o desempenho percebido pelo usuário. O NVLink Fusion, por sua vez, permite que CPUs customizadas e DPUs se conectem diretamente aos sistemas rack-scale de sexta geração.
A aposta financeira é igualmente ambiciosa. Estima-se que o ecossistema completo Vera Rubin — incluindo Rubin GPUs, LPUs Groq 3, Vera CPUs, BlueField-4 DPUs, Spectrum-6 switches e software Scale-In — represente um investimento de cerca de US$ 20 bilhões em infraestrutura de data centers ao longo dos próximos três anos. Nenhuma outra plataforma de IA individual já escalou nessa ordem de grandeza.
O que fica claro é que a era da inferência interativa já começou. O Groq 3 LPX não é apenas mais um chip — é a confirmação de que o mercado de IA está migrando do treinamento para a inferência como o principal motor de investimento e inovação. A pergunta que fica é: quando os agentes de IA conseguirem realizar tarefas complexas em minutos em vez de horas, quantos processos empresariais ainda serão conduzidos por humanos que poderiam ter sido automatizados?
Fontes: NVIDIA Newsroom, SiliconANGLE, NVIDIA Blog
✓ Fontes independentes cruzadas e verificadas antes da publicação
