xAI, de Elon Musk, processa usuário acusado de usar Grok para criar imagens de abuso sexual infantil

A xAI, empresa de inteligência artificial fundada por Elon Musk, entrou com uma ação judicial contra um usuário acusado de utilizar o chatbot Grok para gerar imagens de abuso sexual infantil e deepfakes de conteúdo sexual não consensual. A medida é considerada uma das primeiras ações judiciais movidas por uma empresa de IA contra um usuário por uso criminoso de sua plataforma.

Segundo a ação apresentada na Justiça dos Estados Unidos, o acusado, identificado como Terry Harwood, já havia sido preso por crimes relacionados à exploração sexual de menores. A xAI afirma que ele violou os termos de uso do Grok ao utilizar a ferramenta para produzir imagens ilegais envolvendo crianças e adultos sem consentimento.

Empresa pede indenização e proibição permanente

No processo, a xAI solicita indenização por danos ainda não especificados e pede que a Justiça proíba permanentemente o acusado de utilizar o Grok ou qualquer outro serviço da empresa.

A companhia argumenta que o uso da inteligência artificial para produzir material de abuso sexual infantil causa graves prejuízos às vítimas, além de representar riscos jurídicos e reputacionais para a plataforma.

xAI diz reforçar combate ao conteúdo ilegal

A empresa informou que mantém mecanismos para identificar e bloquear usos ilícitos da plataforma. Segundo a xAI, mais de 52 mil contas foram suspensas em 2026 por violações relacionadas ao uso do Grok, e mais de 73 mil denúncias foram encaminhadas ao National Center for Missing & Exploited Children (NCMEC), organização norte-americana responsável pelo combate à exploração sexual infantil. De acordo com a companhia, essas comunicações contribuíram para ao menos 244 prisões.

Caso ocorre em meio a investigações sobre o Grok

A ação judicial acontece em um momento em que a xAI enfrenta crescente pressão de autoridades e órgãos reguladores por causa da geração de deepfakes e imagens sexualizadas por inteligência artificial. Nos últimos meses, a empresa passou a ser alvo de investigações e processos relacionados ao uso indevido do Grok para criar imagens manipuladas envolvendo pessoas reais, incluindo menores de idade.

Especialistas avaliam que o processo pode estabelecer um precedente importante sobre a responsabilidade dos usuários no uso de ferramentas de inteligência artificial e sobre as medidas adotadas pelas empresas para prevenir crimes praticados com tecnologias generativas.