La voz que no necesita la nube: Woof de 32 MB de Underdog

En un mercado donde la carrera es por modelos cada vez más grandes — GPT-4, Claude Opus, Gemini Pro —, una startup llamada Underdog está haciendo el camino inverso. Creada por Conway Research y fundada por Sigil Wen, la empresa ha lanzado Woof, un modelo de generación de voz de apenas 32 MB y 31 millones de parámetros que funciona enteramente en el navegador, sin conexión a internet. La ventaja no es la complejidad, sino la portabilidad.

Un juego para demostrar que el sonido cabe en el bolsillo

La forma en que Underdog decidió demostrar Woof no es casualidad: un juego retro en navegador llamado "Escape", ambientado en una sala con máquina de escribir, monitor CRT y una lámpara de escritorio que hace sonido al activarse. Todo lo que el usuario escribe en la máquina de escribir es leído en voz alta por el modelo. El sintonizador de música genera diferentes tipos de sonido. No hay llamadas API, ningún servidor intermediario. El modelo se ejecuta en WebGPU directamente en el hardware del usuario.

La metáfora no es solo estética — es política. La introducción del juego advierte contra "proveedores de nube intrusivos" en la ciudad, un golpe disfrazado contra la arquitectura estándar de la industria, donde cada comando de voz viaja a un data center y vuelve con latencia, costo y un registro de datos en algún lugar. Underdog propone que todo el ciclo cabe en la máquina del usuario.

Por qué importan 32 MB

El tamaño es la historia. Las interfaces de voz convencionales dependen de APIs en la nube: cada enunciado viaja a un servidor remoto, retorna con latencia, cuesta dinero por llamada y enruta el audio del usuario por infraestructura de terceros. Un modelo de 32 MB que habla desde dentro del navegador invierte ese patrón.

Para desarrolladores, esto significa que las características de voz pueden incorporarse en aplicaciones web sin un backend de inferencia en la nube — latencia reducida, sin costo por llamada y, implícitamente, una privacidad que ya viene integrada. El modelo no necesita WiFi para funcionar. Con 32 MB, es más pequeño que una foto moderna de un teléfono celular.

La comparación con los modelos líderes es instructiva. Los principales modelos de voz en la nube — de Google, Amazon u OpenAI — son frecuentemente modelos con miles de millones de parámetros, ejecutados en clústeres de GPUs. Woof tiene 31 millones. Es aproximadamente mil veces más pequeño. No compite en calidad de sonido o fidelidad con los modelos más grandes. Compite en accesibilidad y soberanía de datos.

La estrategia de abajo hacia arriba de Underdog

Woof es parte de una secuencia de lanzamientos de Underdog que dibuja un patrón más amplio. pocas semanas antes, la empresa lanzó Bark, un modelo de speech-to-text de 167 MB diseñado para transcripción en dispositivos edge. Además, la empresa lanzó un modelo de 27 mil millones de parámetros que funciona en laptops, posicionado como alternativa local al Meta Muse y al Instinct.

Si sea sonido, transcripción o razonamiento, la tesis de Underdog es consistente: la inteligencia útil no necesita vivir en un data center. Modelos abiertos y pequeños pueden sentarse directamente en el dispositivo del usuario, con pesos de descarga que un hobbyist puede bajar y ejecutar el mismo día.

La arquitectura del chip también importa. Underdog desarrolló Husky, un motor de inferencia que mueve menos datos entre la CPU y la GPU del computador del usuario que los motores rivales. Esto es relevante porque el cuello de botella no es solo el tamaño del modelo — es el movimiento de datos dentro del hardware. Un modelo pequeño que cabe en la memoria pero necesita transportar gigabytes entre chips pierde la ventaja. Husky resuelve eso.

El negocio: sin suscripción, sin anuncios

Sigil Wen, fundador de Underdog, es un caso raro en el Valle del Silicio: un autodidacta de 17 años que vivió en una casa de hackers de IA junto a Andrej Karpathy, probó versiones tempranas del Claude, Midjourney y Stable Diffusion, y descubrió cómo ejecutar GPT-2 en un Apple Watch. Es Thiel Fellow y tiene inversionistas de peso — a16z lideró la ronda, Patrick Collison (Stripe) es inversionista ángel, Khosla Ventures y SV Angel también participaron.

Pero el modelo de negocio es lo que más llama la atención. La app será gratuita, sin anuncios ni suscripción. Como el procesamiento se ejecuta en la máquina del usuario, Underdog no tiene los costos masivos de inferencia en la nube que pesan en los márgenes de competidores como Meta o Google. Los ingresos vendrán de una tarifa porcentual mínima sobre transacciones de pago procesadas vía Stripe, al estilo de las tarifas de interchange del sector financiero. En otras palabras, la empresa gana cuando el usuario gasta, no cuando los datos son minados.

Wen dice que esto alinea los incentivos con el usuario — así como un banco o una banderilla de tarjetas. "No necesito cobrarte una suscripción para ejecutar esto porque mis costos son súper bajos", declaró a la TechCrunch. El contraste con los agentes basados en la nube, que recopilan datos de usuarios para entrenar modelos o vender a anunciantes, es intencional.

Qué sigue

La restricción más honesta del propio Wen es clara: un modelo de 32 MB no reemplazará los modelos más grandes. Pero eso no es un problema. Para experiencias de asistente local, dictado, podcast personalizado o cualquier app que necesite voz sin exponer el audio del usuario a servidores, Woof puede ser suficiente.

Underdog tiene lista de espera para una app de escritorio completa y ya ofrece Bark (167 MB) para transcripción local y un modelo de 27 mil millones para razonamiento. El trío cubre escucha, habla y razonamiento — todo ejecutándose en dispositivos del usuario.

La pregunta no es si el modelo pequeño será tan bueno como el grande. Es si será lo bastante bueno para resolver un problema que nadie estaba resolviendo: voz privada, local e inmediata en cualquier dispositivo, sin depender de infraestructura de terceros. La respuesta puede estar en un juego retro con una máquina de escribir y un sintonizador de música — todo funcionando sin internet.

Fuentes: TechCrunch, DEV Community, TechCrunch

✓ Fuentes independientes cruzadas y verificadas antes de la publicación