MADRI 20 out. (Portaltic/EP) -
Uma adolescente vítima do aplicativo ClothOff, que usa inteligência artificial generativa para despir qualquer pessoa com base em uma imagem vestida, processou os criadores pelas consequências e pelo uso potencial que estão fazendo de suas imagens para treinar modelos de IA.
Em 2023, colegas de classe do ensino médio de Jane Doe - um nome genérico usado para não identificar a menor de 17 anos nesse caso - obtiveram e usaram imagens dela para carregar no aplicativo ClothOff, que com apenas três cliques despe a pessoa, fornecendo um resultado indistinguível de uma imagem real.
"Jane Doe ficou mortificada e emocionalmente perturbada, e tem sofrido consequências desde então", afirma o texto da ação judicial, apresentada no Tribunal Distrital dos Estados Unidos para o Distrito de Nova Jersey.
Isso levou Jane Doe e seus pais a processar a AI/Robotics Venture Strategy 3, a empresa por trás do aplicativo, com base no fato de que seu modelo de negócios não apenas facilita a criação de nudes ilegais, mas também sua distribuição e monetização por meio de planos de pagamento e até mesmo por meio do fornecimento da tecnologia subjacente a desenvolvedores e outras plataformas.
"Todo o modelo de negócios dos réus baseia-se nos aspectos criminais e ilícitos da exploração e vitimização de crianças e adultos", diz o documento, referindo-se às imagens hiper-realistas de nudez de pessoas sem seu consentimento que produz, sejam elas menores de idade (o chamado material de abuso sexual infantil) ou adultos (imagens íntimas sem consentimento), "tornando-se um terreno fértil para a pornografia infantil, exploração e abuso sexual".
Observa-se também que, "como não há como determinar até que ponto as imagens foram distribuídas, Jane Doe agora vive com medo constante de que seu CSAM permaneça disponível no ClothOff e em outros lugares. Ela teme que essas imagens possam ser distribuídas a outras pessoas e que sua imagem tenha sido e continue sendo usada para ajudar a treinar o sistema de inteligência artificial da ClothOff para gerar CSAMs melhores para outras meninas.
De acordo com o processo, o ClothOff produz uma média de 200.000 imagens todos os dias e recebe cerca de 27 milhões de visualizações. A própria promoção do aplicativo convida os usuários a "deixar qualquer pessoa nua" com seu serviço gratuito.
Esta notícia foi traduzida por um tradutor automático