A voz que não precisa de nuvem: Underdog Woof de 32 MB

Em um mercado onde a corrida é por modelos cada vez maiores — GPT-4, Claude Opus, Gemini Pro —, uma startup chamada Underdog está fazendo o caminho inverso. Criada por Conway Research e fundada por Sigil Wen, a empresa lançou Woof, um modelo de geração de fala de apenas 32 MB e 31 milhões de parâmetros que roda inteiramente no navegador, sem conexão com a internet. O diferencial não é a complexidade, mas a portabilidade.

Um jogo para provar que o som cabe no bolso

A forma como a Underdog decidiu demonstrar o Woof não é por acaso: um jogo retro em navegador chamado "Escape", ambientado numa sala com máquina de escrever, monitor CRT e uma luminária que faz som ao ser acionada. Tudo o que o usuário digita na máquina de escrever é lido em voz alta pelo modelo. O sintonizador de música, por sua vez, gera tipos diferentes de som. Não há chamadas API, não há servidor intermediário. O modelo roda em WebGPU diretamente no hardware do usuário.

A metáfora não é só estética — é política. A introdução do jogo alerta contra "provedores de nuvem intrusivos" na cidade, um soco disfarçado na arquitetura padrão da indústria, onde cada comando de voz viaja para um data center e volta com latência, custo e um registro de dados em algum lugar. A Underdog está propondo que o loop todo cabe na máquina do usuário.

Por que 32 MB importa

O tamanho é a história. Interfaces de voz convencionais dependem de APIs em nuvem: cada utterância viaja para um servidor remoto, retorna com latência, custa dinheiro por chamada e roteia áudio do usuário por infraestrutura de terceiros. Um modelo de 32 MB que fala de dentro do navegador inverte esse padrão.

Para desenvolvedores, isso significa que recursos de voz podem ser embarcados em aplicações web sem um backend de inferência em nuvem — latência reduzida, sem custo por chamada e, implicitamente, uma privacidade que já vem embutida. O modelo não precisa de WiFi para funcionar. O peso de 32 MB é menor que uma foto de celular moderna.

A comparação com os modelos líderes é instructiva. Os principais modelos de speech-to-text e text-to-speech em nuvem — como os da Google, Amazon ou OpenAI — são frequentemente modelos com bilhões de parâmetros, executados em clusters de GPUs. O Woof tem 31 milhões. É cerca de mil vezes menor. Não compete em qualidade de som ou fidelidade com os modelos maiores. Compete em acessibilidade e soberania de dados.

A estratégia de baixo para cima da Underdog

O Woof é parte de uma sequência de lançamentos da Underdog que desenha um padrão mais amplo. Poucas semanas antes, a empresa lançou Bark, um modelo de 167 MB de speech-to-text projetado para transcrição em dispositivos edge. Além disso, a empresa lançou um modelo de 27 bilhões de parâmetros que roda em laptops, posicionado como alternativa local ao Meta Muse e ao Instinct.

Seja som, transcrição ou raciocínio, a tese da Underdog é consistente: inteligência útil não precisa viver em um data center. Modelos abertos e pequenos podem sentar diretamente no dispositivo do usuário, com pesos de download que um hobbyist baixa e roda na mesma tarde.

A arquitetura de chip também importa. A Underdog desenvolveu o Husky, um motor de inferência que movimenta menos dados entre a CPU e a GPU do computador do usuário do que os motores concorrentes. Isso é relevante porque o gargalo não é só o tamanho do modelo — é a movimentação de dados dentro do hardware. Um modelo pequeno que se encaixa na memória mas precisa trafegar gigabytes entre chips perde a vantagem. O Husky resolve isso.

O negócio: sem assinatura, sem anúncios

Sigil Wen, fundador da Underdog, é um caso raro no Vale do Silício: um autodidata de 17 anos que morou numa casa de hackers de IA junto a Andrej Karpathy, testou versões precoces do Claude, Midjourney e Stable Diffusion, e descobriu rodar GPT-2 num Apple Watch. Ele é Thiel Fellow e tem investidores de peso — a16z liderou a rodada, Patrick Collison (Stripe) é anjo, Khosla Ventures e SV Angel também participam.

Mas o modelo de negócio é o que mais chama atenção. O app será gratuito, sem anúncios e sem assinatura. Como o processamento roda na máquina do usuário, a Underdog não tem os custos massivos de inferência em nuvem que pesam nas margens de concorrentes como Meta ou Google. A receita virá de uma taxa percentual mínima sobre transações de pagamento processadas via Stripe, no estilo de interchange fees do setor financeiro. Em outras palavras, a empresa ganha quando o usuário gasta, não quando os dados são minerados.

Wen diz que isso alinha os incentivos com o usuário — assim como um banco ou uma bandeira de cartão. "Não preciso te cobrar uma assinatura para rodar isso porque meus custos são super baixos", ele declarou à TechCrunch. O contraste com os agentes baseados em nuvem, que coletam dados de usuários para treinar modelos ou vender para anunciantes, é intencional.

O que vem a seguir

A restrição mais honesta do próprio Wen é clara: um modelo de 32 MB não vai substituir os modelos maiores. Mas isso não é problema. Para experiências de assistente local, ditado, podcast personalizado ou qualquer app que precise de fala sem expor áudio do usuário a servidores, o Woof pode ser o suficiente.

A Underdog está com lista de espera para um app desktop completo e já tem o Bark (167 MB) para transcrição local e o modelo de 27 bilhões para raciocínio. O trio cobre escuta, fala e raciocínio — todos rodando em dispositivos do usuário.

A pergunta não é se o modelo pequeno vai ser tão bom quanto o grande. É se vai ser bom o bastante para resolver um problema que ninguém estava resolvendo: voz privada, local e imediata em qualquer dispositivo, sem depender de infraestrutura de terceiros. A resposta pode estar num jogo retro com uma máquina de escrever e um sintonizador de música — tudo funcionando sem internet.

Fontes: TechCrunch, DEV Community, TechCrunch

✓ Fontes independentes cruzadas e verificadas antes da publicação