TECH TRANSPARENCY PROJECT (TTP)
MADRID 28 jan. (Portaltic/EP) - As lojas de aplicativos Play Store do Google e App Store da Apple oferecem cerca de 50 aplicativos cada uma que permitem gerar imagens de nudez usando inteligência artificial (IA), apesar de suas políticas proibirem isso.
Uma investigação realizada pela organização Tech Transparency Project (TTP) revelou que, apesar das crescentes controvérsias em relação à geração de imagens explícitas com IA, empresas como Google e Apple ainda hospedam esse tipo de aplicativo em suas lojas.
Especificamente, foram identificados 55 aplicativos desse tipo na Play Store do Google, enquanto na App Store da Apple o número cai para 47. Entre eles, o mais popular é o Grok, o chatbot do X (antigo Twitter), que gerou milhares de imagens explícitas na rede social, incluindo nudes de menores de idade.
Para encontrar este tipo de aplicações, a TTP explicou que simplesmente escreveu “nudify” e “undress” (despir) nas barras de pesquisa das lojas de aplicações. Estas aplicações dividem-se em duas categorias: as que utilizam a IA para gerar imagens e vídeos a pedido dos utilizadores e as que utilizam a IA para fazer “deepfakes”, sobrepondo o rosto de uma pessoa sobre o corpo de outra.
Entre os mais populares estava o DreamFace, com mais de 10 milhões de downloads, que permitia gerar avatares ou vídeos de dança com IA. Para testá-lo, a TTP usou a opção gratuita de gerar um vídeo diário, carregou uma imagem de uma garota em um café e pediu ao aplicativo para fazer um vídeo dela dançando e tirando a blusa, sem nada por baixo. E assim o aplicativo fez, sem qualquer tipo de restrição, apesar de suas condições de serviço proibirem seu uso para gerar conteúdo “sexualmente explícito”. Vale ressaltar que o DreamFace estava disponível na Play Store do Google para maiores de 13 anos e para maiores de 9 anos na App Store da Apple, de modo que as crianças tinham a possibilidade de gerar nus sem qualquer impedimento.
O número de downloads dos aplicativos chegou a 705 milhões no total, gerando US$ 117 milhões em receita (cerca de 98 milhões de euros), de acordo com uma análise da AppMagic coletada pela TTP. Apesar de ambas as empresas defenderem que proíbem os aplicativos “nudify”, a organização denuncia que, no final, elas acabam lucrando com eles.
A presença desses aplicativos entra em conflito com as políticas dessas lojas sobre conteúdos inadequados: o Google deixa claro que não permite aplicativos que contenham conteúdo sexual, como pornografia ou nudez sem consentimento. Por sua vez, a Apple rejeita aplicativos que contenham material “abertamente pornográfico”, bem como aqueles que divulguem conteúdos difamatórios.
Após a publicação do relatório, tanto o Google quanto a Apple solicitaram à TTP a lista de aplicativos que geram nudez. Em seguida, a Apple informou à CNBC que já havia eliminado 28 aplicativos, enquanto um porta-voz do Google também explicou à CNBC que vários aplicativos foram suspensos, sem especificar o número, que acabou sendo 31, de acordo com a TTP.
As regulamentações de empresas como Google e Apple se somam às de plataformas como a X, que, após anúncios de investigações por parte de governos e instituições, optou por limitar a função de geração de imagens do Grok.
Esta notícia foi traduzida por um tradutor automático