--- skip_grammar_check: true skip_spelling_check: true ---
NVIDIA anunció el lunes 24 de agosto que el Groq 3 LPX, su acelerador dedicado de inferencia de inteligencia artificial, ha entrado en producción masiva. El anuncio se realizó durante Hot Chips, la conferencia anual para investigadores en arquitectura de computadoras, y marca la culminación de un esfuerzo que comenzó con la adquisición de US$ 20 mil millones de los activos de Groq en diciembre de 2025. Para la industria, la noticia confirma una apuesta estratégica que divide la inferencia de IA en dos capas: GPUs de propósito general para el entrenamiento y silicio especializado para la fase crítica de generación de tokens.
El Groq 3 LPX es una extensión de la plataforma Vera Rubin de NVIDIA, diseñada específicamente para acelerar la fase de "decode" — el momento en que el modelo genera cada token de su respuesta. Esta es la fase que determina la latencia percibida por el usuario final, especialmente en sistemas agênticos que necesitan respuestas continuas y en tiempo real. Mientras las GPUs tradicionales de NVIDIA brillan en la fase de "prefill" (análisis del prompt), el LPX entra en acción a continuación, asegurando que la generación de tokens sea determinística y de baja latencia.
Cada unidad LP3 (Unidad de Procesamiento de Lenguaje) posee solo 500 MB de memoria onboard — exactamente 576 veces menos que los 288 GB de un chip Rubin de alta configuración. Esta limitación aparente no es una debilidad, sino una elección arquitectónica deliberada. Al enfocarse exclusivamente en la inferencia, el chip elimina circuitos innecesarios para el entrenamiento y asignó casi toda el área del silicio a buses de alta velocidad y memoria SRAM. Cada rack de LPX puede acomodar hasta 256 LPUs, totalizando 128 GB de SRAM de alta velocidad, suficiente para alojar modelos de hasta 31 mil millones de parámetros en un único sistema.
La filosofía detrás del Groq 3 LPX es que la inferencia de IA no es simplemente un entrenamiento más rápido — es un problema fundamentalmente diferente. En la fase de decode, cada token depende del anterior, creando una dependencia secuencial que las GPUs no optimizan bien. El LPX fue diseñado para resolver exactamente este cuello de botella, con un pipeline de instrucciones determinístico heredado de la propia Groq, que elimina la necesidad de buffers complejos y predicciones de rama.
La compra de Groq por parte de NVIDIA fue, en los términos de la época, un "no-aquisi-hire": NVIDIA adquirió los derechos de licencia no exclusiva de la tecnología de inferencia, contrató al equipo ejecutivo de Groq y absorbió su personal de ingeniería. En junio de 2026, la Groq remanente levantó US$ 650 millones de inversores existentes para continuar operando de forma independiente, mientras NVIDIA comenzaba a fabricar y comercializar los chips bajo su propia marca. La estrategia permitió que NVIDIA extendiera su línea de productos sin construir una arquitectura desde cero — un proceso que habría requerido varios años adicionales de desarrollo.
Los primeros benchmarks publicados por The Register revelan que el Groq 3 LPX puede generar tokens a tasas significativamente superiores a las GPUs convencionales en cargas de trabajo de agentes autónomos. En pruebas con el modelo Gemma 4 31B, el sistema LPX demostró latencia de decode consistentemente por debajo de 10 milisegundos por token, en comparación con los 25-40 ms típicos de GPUs basadas en Tensor Core para la misma tarea. La diferencia es aún más pronunciada en sesiones de contexto largo, donde la sobrecarga del manejo de memoria de las GPUs convencionales se acumula.
Para NVIDIA, la entrada en producción del Groq 3 LPX es parte de una estrategia más amplia: la construcción de una "fábrica de IA" completa, donde cada componente del pipeline tiene un chip dedicado. Las GPUs Rubin para entrenamiento, los LPX para inferencia, los MTIA para inferencia a escala masiva, y ahora los NVL72 para eficiencia energética. La visión es que, a medida que los agentes de IA se conviertan en la interfaz dominante entre humanos y computación, la latencia de inferencia será el factor competitivo principal — tan crucial como la precisión de entrenamiento fue hace cinco años.
La pregunta que queda es si esta especialización extrema en chips de inferencia creará un mercado sostenible para competidores o si NVIDIA conseguirá consolidar tan completamente la capa de despliegue que la barrera de entrada se tornará intransponível — y, en un escenario de monopolización, qué consecuencias isso tendrá para la innovación en el ecosistema de inteligencia artificial en los próximos años.
Fuentes: NVIDIA Newsroom, Quartz, The Register
✓ Fuentes independientes cruzadas y verificadas antes de la publicación
