O que aconteceu: A xAI, empresa de Elon Musk, entrou com uma ação judicial contra Terry Wayne Harwood, o primeiro usuário que a empresa acusa de usar o chatbot Grok para criar imagens de abuso sexual infantil (CSAM). Harwood foi preso em março por posse e distribuição de CSAM, após a xAI supostamente ajudar na investigação.
Contexto: Segundo a denúncia, Harwood usou duas contas da xAI por meses para "nudificar" fotos de múltiplas vítimas, incluindo uma menina de aproximadamente 10 anos. A ação chega uma semana depois de outra vítima menor de idade entrar com uma ação coletiva, na qual alega que o padrasto cometeu suicídio após ser descoberto usando o Grok — possivelmente em conjunto com outras ferramentas de IA — para criar 7.000 imagens sexualizadas dela e distribuí-las na dark web.
Nesse caso anterior, a vítima alegou que a xAI se recusou a ajudar a polícia a identificar o usuário que enviou sua foto ao Grok. Seus advogados citaram um relatório de 2026 do National Center for Missing & Exploited Children (NCMEC) confirmando que 90% dos relatórios da xAI ao CyberTipline não eram acionáveis porque a empresa se recusava a incluir informações que permitissem à polícia rastrear os perpetradores.
Elon Musk havia dito anteriormente que não tinha visto exemplos de CSAM gerado pelo Grok. Em vez de restringir as saídas do modelo, ele alertou os usuários: "qualquer um que usar o Grok para criar conteúdo ilegal sofrerá as mesmas consequências de quem envia conteúdo ilegal".
Análise: A estratégia da xAI é clara: blame the user, not the tool. Ao processar Harwood, a empresa tenta estabelecer um precedente de que a responsabilidade legal recai sobre quem usa o Grok para fins ilícitos, não sobre quem desenvolve a plataforma. Isso ecoa o discurso de Musk sobre liberdade de expressão irrestrita em plataformas de IA. No entanto, os números do NCMEC contam uma história diferente: se 90% dos relatórios da xAI não contêm dados que permitam à polícia agir, a empresa está efetivamente criando um ambiente onde criminosos operam com impunidade.
O que observar: O tribunal pode estabelecer um precedente importante sobre responsabilidade de plataformas de IA generativa por conteúdos ilegais. A ação coletiva das vítimas pode forçar a xAI a revelar mais dados sobre sua moderação. A pressão regulatória sobre IA generativa e CSAM deve aumentar significativamente.
Fonte: Ars Technica
