A ilusão de controle: quando executivos de IA confundem conveniência com conexão humana

Marissa Mayer não pretendia criar um marco na sociologia tecnológica. A ex-CEO do Yahoo, que também passou por Google e Apple antes de fundir-se ao mundo de inteligência artificial com sua nova empresa, simplesmente estava demonstrando o que havia construído: Dazzle, um aplicativo que usa assistente de IA para minerar o álbum de fotos do usuário e sugerir narrativas sobre as pessoas retratadas. Em uma entrevista ao The New York Times, Mayer relatou que o sistema resumiu sua filha de dez anos em três tópicos: "empática, criativa e amante de animais". A descrição, como era esperado, encontrou um terreno fértil de escárnio nas redes sociais. Críticos apontaram que a descrição era suficientemente vaga para se aplicar a qualquer criança e que delegar tarefas íntimas de memória e interpretação a um algoritmo soava como um equívoco cultural.

Mas a reação foi mais do que o ódio habitual da internet a uma startup falha. Foi um sintoma de uma tensão cada vez mais profunda entre a cultura dos executivos de inteligência artificial e as pessoas que eles supostamente querem servir.

A conveniência como ideologia

Dazzle se posiciona como uma ferramenta de organização pessoal: indexa fotos esquecidas, extrai temas de atividades e sugere ajuda logística, desde temas de festa de aniversário até o planejamento de encontros de aniversário. Mayer descreveu casos de uso como recuperar projetos de kindergarten e coordenar atividades familiares, e até sugeriu a possibilidade de coordenação entre assistentes de IA de cônjuges.

A proposta de valor, em termos comerciais, é familiar. O que não é familiar é o domínio que toca: memória, identidade e relacionamentos íntimos. A tensão entre a conveniência e o significado emocional é exatamente o tipo de fronteira que a indústria de tecnologia frequentemente subestima.

O argumento por trás do Dazzle não é novo. ChatGPT e outros modelos generativos são rotineiramente sugeridos como ferramentas de organização pessoal. Meta está perseguindo interfaces de avatar e realidade virtual cada vez mais realistas para simular presença social. Sam Altman já especulou publicamente sobre pais usando ChatGPT como companheiros de criação. Mark Zuckerberg discutiu como a maioria dos americanos tem menos de três amigos e deseja cerca de quinze, apontando para uma lacuna profunda em satisfação social que a IA poderia, teoricamente, preencher.

Essas declarações individuais poderiam ser ignoradas como especulação casual de executivos. Juntas, formam uma narrativa: a tecnologia como corretiva para o atrito interpessoal. O problema é que essa narrativa não convence grande parte do público.

O abismo entre Silicon Valley e a experiência real

Um relatório do Pew Research Center, com base em uma pesquisa com mais de 5.000 adultos americanos, revelou números que iluminam o problema. Cerca de 50% dos adultos nos EUA acreditam que a IA vai reduzir a capacidade das pessoas de formar relacionamentos significativos. Apenas 5% disseram que a IA tornaria mais fácil construir essas conexões. Mais de 53% acreditam que a IA vai piorar a capacidade das pessoas de pensar criativamente.

Esses números não são apenas estatísticas de pesquisa: são o panorama de uma tensão de mercado real. Empresas que assumem que os consumidores vão voluntariamente terceirizar trabalho relacional para algoritmos correm o risco de subestimar a demanda por ferramentas que realmente ressoam com necessidades humanas.

O que diferencia este momento de anteriores debates sobre tecnologia e privacidade é que a questão não é sobre coleta de dados, mas sobre delegação de tarefas humanas. Quando um executivo sugere que um futuro pai pode confiar em ChatGPT para criar seu filho, ou que um assistente de IA pode escolher as melhores fotos da família automaticamente, ele não está apenas apresentando um produto — está normalizando a ideia de que o trabalho emocional e relacional pode ser externalizado.

A ironia é que a própria IA poderia fornecer ferramentas para reduzir a carga cognitiva de muitos usuários. Recursos de gerenciamento de fotos, sistemas de lembrete e assistentes de agendamento podem ser genuinamente úteis. O problema surge quando a linha entre utilidade e intrusão emocional se torna tão tênue que os usuários não conseguem mais distinguir a diferença.

O preço de estar desconectado

A história do Dazzle não é sobre um único produto falhar. É sobre um padrão que se repete em toda a indústria de inteligência artificial, onde executivos que operam a partir de suites de alto nível tendem a projetar ferramentas que refletem suas próprias prioridades de eficiência em vez das necessidades reais das pessoas comuns. Quando Sam Altman fala sobre confiar em IA para a criação dos filhos, quando Zuckerberg defende experiências sociais mediadas por IA, quando Mayer apresenta seu resumo de criança como um marco de produto — o que eles estão realmente demonstrando é quão longe estão da experiência humana comum.

O público americano já demonstrou, em pesquisas repetidas, que é profundamente cético em relação à IA em papéis pessoais. A pergunta que fica não é se a IA pode fazer tudo, mas se deveria.

Fontes: TechCrunch, Newsgab, Pew Research Center

✓ Fontes independentes cruzadas e verificadas antes da publicação