Google amplía portafolio de chips de IA con TPU 8tx y TPU 8i Max

Google anunció el lunes pasado, 10 de noviembre, dos nuevos sistemas basados en su octava generación de Unidades de Procesamiento Tensorial (TPU), marcando la cuarta expansión de hardware de la empresa en solo un año. Los TPU 8tx y TPU 8i Max no son chips físicamente nuevos: son sistemas diseñados en torno a una arquitectura existente, pero con especializaciones distintas para atender demandas emergentes de agentes autónomos de IA.

El TPU 8tx fue diseñado específicamente para entornos de inferencia confidencial, con seguridad a nivel de hardware para datos sensibles. El TPU 8i Max, por su parte, apila dos chips en un solo paquete, logrando la mayor densidad computacional por rack de la familia. Juntos, se suman al ya lanzado TPU 8t (entrenamiento a gran escala) y TPU 8i (inferencia en tiempo real), completando un portafolio de cuatro sistemas en una misma generación.

Qué cambia en la arquitectura

La diferencia clave entre un "chip nuevo" y un "sistema nuevo" está en el enfoque del diseño. Diseñar un chip significa organizar billones de transistores en un wafer de silicio — un proceso de dos a tres años con foundries como TSMC. Un sistema, en cambio, trata sobre cómo organizar el cómputo, la memoria HBM, la red óptica y el almacenamiento alrededor del chip. Google enfatiza que este enfoque modular permite entregar configuraciones de hardware especializadas en cuestión de meses, no años.

El TPU 8tx introduce capacidades de cifrado especializadas para cargas de trabajo de clientes altamente regulados — gobiernos y sectores financieros que necesitan ejecutar modelos propietarios sobre datos privados sin exponer información sensible a los proveedores de nube. Es el mismo razonamiento que llevó a Apple a desarrollar el Neural Engine para procesamiento local, pero ahora escalado a datacenters empresariales.

El TPU 8i Max, a su vez, resuelve un cuello de botella fundamental de los agentes de IA: la memoria. Cuando un agente necesita razonar sobre documentos extensos — contratos completos, miles de mensajes de chat, horas de transcripciones — necesita mantener esos contextos en la memoria del chip. El empaquetado dual del 8i Max reduce drásticamente las latencias de comunicación inter-chip, cortando retrasos hasta un 50% comparado con la generación anterior.

La estrategia detrás de la expansión

La decisión de lanzar cuatro sistemas en una sola generación refleja una estrategia deliberada. Según Amin Vahdat, CTO de IA e Infraestructura de Google, la empresa ha recibido retroalimentación externa creciente sobre necesidades específicas de hardware. "Con el cómputo migrando de escala humana a escala de agente, las empresas están pidiendo aceleradores que puedan razonar a través de contextos masivos", dijo Vahdat en el blog oficial de Google.

El mercado de chips de IA se evalúa en cientos de miles de millones de dólares, y Google quiere una porción significativa. Con casi 100 clientes — incluyendo laboratorios frontera de IA, firmas de trading, universidades y minoristas — la empresa está intentando replicar el éxito de Nvidia en su propio terreno. A diferencia de Nvidia, que vende GPUs genéricas para múltiples cargas de trabajo, Google ofrece hardware especializado para etapas específicas del ciclo de IA.

Software y ecosistema

Los sistemas vienen acompañados de actualizaciones del stack de software. Google introdujo el XLA Serving Engine, un componente open-source que permite entrenar modelos en Python y servirlos directamente en runtime de C++ con baja latencia. En benchmarks de producción (InferenceX y AgentX), el stack nativo vLLM-TorchTPU en los TPUs alcanzó marcas de precio-rendimiento state-of-the-art para cargas de trabajo agênticas y contextos largos.

El Agent Compute Engine, otro componente del ecosistema, suspende y reanuda automáticamente sesiones de agentes inactivas — reduciendo costos operativos de infraestructura al detectar cuándo un agente ha estado inactivo por cierto período. Es una característica que refleja el cambio de paradigma: cuando miles de agentes ejecutan simultáneamente, la eficiencia de recursos se vuelve tan crítica como la velocidad bruta.

Google también hizo disponible el GKE Dynamic Slicing, que usa conmutación óptica (OCS) para ensamblar topologías dinámicas de TPUs — dividiendo o combinando clústeres físicos en fatijas lógicas bajo demanda. Esto reduce el tiempo de inicio de jobs hasta un 5x y acelera la recuperación de fallos hasta un 4.5x.

El desafío de Nvidia

La rivalidad con Nvidia se está intensificando. Mientras Nvidia domina el mercado con sus GPUs H200 y H100, Google posiciona los TPUs como la alternativa más eficiente para cargas de trabajo específicas — especialmente inferencia a escala y agentes autónomos. Bloomberg reporta que Google está escalando su estrategia de chips especializados precisamente para competir directamente con Nvidia en un mercado que debería superar los USD 300 mil millones para 2027.

La estrategia funciona hasta cierto punto porque Google construye los sistemas TPU incluso antes de tener clientes pagadores — un modelo arriesgado, pero que permite a la empresa mantener un ritmo de innovación superior al ciclo típico de foundries. Si el portafolio actual puede retener sus 100 clientes y expandirse a 150 o 200, Google habrá creado la segunda fuerza más relevante en hardware de IA del mundo — después, naturalmente, de la propia Nvidia.

Lo que queda por ver es si la especialización extrema en ocho generaciones de TPU convencerá a las empresas de migrar de GPUs convencionales a TPUs — o si la fragmentación del ecosistema mantendrá a Nvidia como estándar de facto. Lo cierto es que la carrera por hardware de IA entró en su fase más compleja: ya no basta con ser rápido. Hay que ser especializado, seguro e integrado con un stack de software que realmente funcione.

Fuentes: Google Cloud Blog, Bloomberg, Forbes

✓ Fuentes independientes cruzadas y verificadas antes de la publicación