A plataforma de inteligência artificial Grok, desenvolvida pela empresa xAI do bilionário Elon Musk, está enfrentando um processo nos Estados Unidos por permitir a criação de imagens sexualizadas de menores. A ação foi movida em um tribunal na Califórnia e envolve três pessoas, duas delas menores de idade, que alegam que a plataforma deve ser responsabilizada por permitir a manipulação de fotos com conteúdo adulto. De acordo com informações do TecMundo, as denúncias surgiram no início deste ano, quando ativistas relataram que o Grok estava sendo usado para criar imagens abusivas de mulheres e crianças. Embora a disputa judicial ocorra nos EUA, o Grok é disponibilizado a assinantes premium da rede social X (antigo Twitter) no Brasil, onde a geração e o compartilhamento de imagens de abuso infantil simuladas configuram crime sob o Estatuto da Criança e do Adolescente (ECA).
Acusações contra a IA Grok
As acusações incluem a manipulação de imagens para retirar roupas, trocar vestimentas ou colocar pessoas em poses sexualizadas. A plataforma chegou a ser banida em dois países devido a essas práticas. Inicialmente, Elon Musk rejeitou as alegações de que menores estariam envolvidos nas edições. Posteriormente, a geração de imagens e o recurso de perguntas na rede X foram limitados para assinantes, o que reduziu a criação dessas montagens diretamente na plataforma. Apesar disso, aplicativos terceirizados que utilizam a interface de programação do Grok continuaram a gerar materiais potencialmente criminosos.
Vítimas e consequências
Atualmente, a ação representa três vítimas, mas os advogados indicam que mais pessoas podem ser incluídas à medida que a investigação avança. As partes envolvidas relatam estar passando por “angústia extrema” devido à circulação das imagens e buscam a condenação da xAI por negligência corporativa e violação de leis de proteção de menores. A escritora e ativista americana Ashley St. Clair, que também teve imagens de seu próprio filho envolvidas em polêmicas com a ferramenta, abriu um processo similar contra a IA.
Impacto na reputação da xAI
O caso levanta questões significativas sobre a responsabilidade das empresas de tecnologia na moderação de conteúdo gerado por inteligência artificial. A xAI enfrenta um desafio considerável em lidar com os desdobramentos legais e de reputação decorrentes das acusações. A situação destaca o debate global pela necessidade de uma regulamentação mais rigorosa e supervisão no uso de tecnologias emergentes para evitar abusos e proteger indivíduos vulneráveis.
Fonte original: TecMundo
