Yui Mok/PA Wire/dpa - Arquivo
MADRID 17 mar. (Portaltic/EP) -
Três adolescentes entraram com uma ação judicial contra a empresa de inteligência artificial (IA) xAI por permitir a criação de imagens sexualizadas delas mesmas e de outros menores por meio de seu assistente Grok, alegando que a empresa tinha conhecimento de que o 'chatbot' produziria material de abuso sexual infantil e não impediu isso.
A empresa liderada por Elon Musk enfrentou, nos últimos meses, um escândalo envolvendo a geração de imagens sexualizadas de mulheres e menores que eram compartilhadas na rede social X e criadas por meio da ferramenta de geração de imagens do Grok, que atendia ao pedido de alguns usuários de despir mulheres e crianças, modificando suas imagens para colocá-las em biquínis ou em posições sexuais.
Especificamente, soube-se que o Grok compartilhou mais de 3 milhões de imagens sexualizadas, 23.000 exclusivamente de menores, com a opção de gerar imagens na plataforma de “microblogging”.
No entanto, não se trata de um fato exclusivo dos últimos meses, mas sim de um tipo de ação que já era permitida anteriormente. Prova disso é que três adolescentes do Tennessee (Estados Unidos), duas delas menores de idade, entraram com uma ação contra a xAI Corp e a xAI LLC no Tribunal Distrital do Norte da Califórnia, nos Estados Unidos, por permitir a criação de imagens sexualizadas de menores com o Grok.
Trata-se, portanto, do início de uma ação coletiva que detalha que um único autor conseguiu usar o Grok para coletar imagens e vídeos de mais de 18 meninas, muitas delas da mesma escola, e modificar sua aparência usando IA para as despir. Posteriormente, as imagens eram distribuídas por meio de canais como o Discord ou outras plataformas como o Telegram, em troca de mais arquivos de conteúdo sexual de outras menores.
Isso fica evidente na ação, movida nesta segunda-feira e divulgada pelo The Washington Post, que exige indenização para as afetadas, uma vez que a empresa de Musk estava ciente de que sua IA Grok permitia esse tipo de prática ilegal e, no entanto, não tomou nenhuma medida para evitá-la, como fazem outras empresas de IA.
De acordo com a ação, uma das adolescentes recebeu, em dezembro do ano passado, um link para um servidor do Discord com imagens de conteúdo sexual envolvendo menores, entre as quais ela própria e colegas de escola. Na ocasião, a polícia abriu uma investigação criminal contra o autor das imagens geradas por IA, que posteriormente foi preso.
Agora, a ação judicial visa processar a empresa que forneceu as ferramentas para criar tais imagens sem impor nenhum filtro ou impedimento, exigindo responsabilização e indenização pelos danos causados.
De acordo com a denúncia, a xAI e Elon Musk viram “uma oportunidade de lucrar com a exploração sexual de pessoas reais, incluindo crianças”. De fato, a ação afirma que foi comprovado que as imagens foram geradas utilizando o Grok, inclusive com aplicativos de terceiros baseados nesse modelo de IA, e que a xAI “não testou a segurança dos recursos que desenvolveu” para o assistente.
É importante considerar que, após os recentes incidentes, o Grok limitou sua ferramenta de geração de imagens, restringindo o acesso aos membros pagantes e, posteriormente, a todos os usuários.
Esse tipo de prática por parte do Grok levou autoridades em nível global, como a União Europeia, a condenar seu uso para gerar imagens de menores e solicitar à X que conserve a documentação gerada pelo Grok até o final de 2026 para uma possível investigação.
Além disso, o próprio Elon Musk compartilhou em uma publicação que qualquer pessoa que utilizasse o Grok para criar conteúdo ilegal sofreria “as mesmas consequências que se tivesse enviado conteúdo ilegal”. De fato, as políticas da xAI estabelecem que não é permitido o uso de seu serviço para representar imagens de pessoas de forma pornográfica, a sexualização ou a exploração de crianças.
Esta notícia foi traduzida por um tradutor automático