Anthropic apresenta projeto de lei sobre segurança de IA que pode bloquear modelo se 50+ pessoas puderem morrer

A Anthropic está levando ao Capitólio algo que poucas empresas de tecnologia ousariam: um projeto de lei que define quando o próprio governo deve ter autoridade para impedir que um modelo de inteligência artificial seja lançado. O documento, primeiro reportado pelo Politico em 16 de outubro e agora em fase de discussion confidencial com legisladores, estabelece um patamar altíssimo para intervenção: risco previsível e iminente de mais de 50 mortes ou graves lesões, ou prejuízo superior a US$ 1 bilhão. E a condição adicional é igualmente restritiva — o dano deve decorrer de um de apenas três cenários: liberação de arma biológica, fuga do modelo aos controles do desenvolvedor, ou um ciberataque.

O que torna essa proposta particularmente notável não é a ambiguidade do seu conteúdo, mas exatamente o oposto: é um esforço deliberado de uma empresa de IA para dizer ao governo federal dos EUA o alcance preciso que ela acredita ser adequado para a regulamentação governamental de modelos de fronteira. Em vez de esperar que Congressistas escrevam regras para a indústria a partir do zero, a Anthropic está oferecendo texto pronto — e pedindo que ele sirva de base para legislação federal.

O que o projeto propõe

Pela proposta, um modelo poderia ser barrado apenas se avaliadores independentes, registrados no Departamento de Comércio dos EUA, identificarem um risco iminente enumerado. Esses avaliadores teriam 72 horas para notificar o Departamento de Comércio, que então deveria solicitar a um juiz federal em Washington a suspensão da distribuição do modelo. O texto proíbe expressamente que qualquer outra agência federal tenha discricionariedade para parar a distribuição por conta própria.

Os avaliadores seriam pagos pelos próprios laboratórios — desde que "o pagamento não seja condicionado aos resultados das avaliações" — uma disposição que levanta perguntas imediatas sobre independência real. Demis Hassabis, presidente do DeepMind, já sugerira há meses que um órgão autogovernado de regulação de IA deveria imitar a FINRA (Financial Industry Regulatory Authority), o regulador autorregulado do setor financeiro norte-americano. A proposta da Anthropic vai nesse sentido, mas com uma diferença crucial: o modelo de autorregulação aqui vem da própria empresa que quer se autorregular.

O contexto político

A proposta da Anthropic surge em meio a uma escalada sem precedentes de tensão entre o governo federal e a empresa. Em fevereiro de 2026, o presidente Trump ordenou que agências federais parassem de usar tecnologia da Anthropic, e o Departamento de Defesa a classificou como "risco de cadeia de suprimentos à segurança nacional". Em março, a Anthropic entrou com dois processos federais contra o governo. Em junho, o Departamento de Comércio impôs controles de exportação sobre os modelos Claude Mythos 5 e Fable 5, restringindo o acesso a estrangeiros — controles que foram levantados em 30 de junho.

O próprio CEO e co-fundador da Anthropic, Dario Amodei, citou-se no projeto de lei que tramita no Senado (S.5493, Ban Artificial Superintelligence Act of 2026) como tendo advertido que "a pesquisa em inteligência artificial moderna pode superar nossa capacidade de compreender e controlar esses sistemas, e por isso deve ser conduzida com extrema cautela". Em julho de 2026, Anthropic, OpenAI e xAI concordaram publicamente que a humanidade deveria desacelerar o desenvolvimento de IA — o chamado "pace the frontier".

Agora, com o projeto, a Anthropic está tentando traduzir seu Advanced AI Framework — um conjunto de propostas que vem debatendo com legisladores federais e estaduais desde junho — em linguagem legislativa concreta.

Reações: fraco demais? Ou necessário demais?

A resposta foi assimétrica. O senador estatal da Califórnia Scott Wiener, autor da Senate Bill 53 — a mesma lei que definiu os limiares de 50 mortes e US$ 1 bilhão como "risco catastrófico" — reagiu nas redes sociais: "A proposta de segurança de IA da Anthropic fica muito aquém de proteger a saúde e a segurança públicas. O Congresso deve ir mais longe".

Do outro lado, críticos libertários e defensores da inovação argumentam que qualquer mecanismo de bloqueio prévio, por mais restrito que seja, cria incerteza regulatória para empresas que desenvolvem tecnologia legítima. Anthony Cimino, líder de assuntos federais da Anthropic, admitiu em 18 de outubro que a redação sobre pré-empreção estadual "não era suficientemente precisa" e que a empresa revisará esse trecho.

O que a proposta da Anthropic revela, na prática, é que a indústria de IA está entrando em uma fase em que a autorregulação já não basta, mas a regulamentação governamental tampouco está pronta para assumi-la. O resultado é um vácuo onde cada empresa tenta ditar as próprias regras — e onde legisladores, sem texto concreto para discutir, acabam adotando o que as empresas oferecem.

A pergunta que fica é se, quando o próximo modelo de fronteira for lançado, os avaliadores independentes terão independência suficiente para recomendar um bloqueio — e se os legisladores terão vontade política para fazer valer uma ordem judicial contra uma das empresas mais valiosas do mundo.

Fontes: TechCrunch, Technology.org, Progressive Robot

✓ Fontes independentes cruzadas e verificadas antes da publicação