TECH TRANSPARENCY PROJECT
MADRID 16 abr. (Portaltic/EP) -
A Apple e o Google continuam oferecendo aplicativos que promovem a nudez, impulsionados por inteligência artificial (IA), em suas lojas de aplicativos App Store e Play Store, muitos deles classificados como adequados para todas as idades, além de aumentarem sua visibilidade por meio de seus sistemas de busca e publicidade.
Uma investigação realizada pela organização Tech Transparency Project (TTP) já havia revelado, em janeiro deste ano, que as lojas de aplicativos da Apple e do Google ofereciam cerca de 50 aplicativos cada uma que permitem gerar imagens de nudez utilizando inteligência artificial (IA), apesar de suas políticas proíbirem isso.
Entre elas, encontravam-se opções como o aplicativo do “chatbot” da rede social X Grok, que acabou gerando mais de 3 milhões de imagens sexualizadas de menores de idade e mulheres, antes de bloquear essa opção.
Na época, a TTP explicou que esses aplicativos podiam ser facilmente encontrados; bastava digitar “nudify” e “undress” (despir) nas barras de busca das lojas para encontrá-los. Assim, apareciam aplicativos que permitem usar IA para gerar imagens e vídeos a pedido dos usuários, bem como outros que empregam IA para criar “deepfakes”.
Agora, a mesma organização voltou a analisar as lojas de aplicativos App Store e Play Store, com foco especial em seus sistemas de busca. Assim, descobriram que as empresas de tecnologia responsáveis continuam oferecendo aplicativos que promovem a nudez e, inclusive, que seus sistemas de busca e publicidade ajudam a direcionar os usuários para esses aplicativos, aumentando assim sua visibilidade.
De acordo com a TTP, aproximadamente 40% dos aplicativos que aparecem nos resultados de busca da Apple e do Google, sob os termos “nudify”, “undress” e “deepnude”, mostravam mulheres nuas ou seminuas. Especificamente, foram encontradas 46 aplicações únicas na App Store e 49 aplicações únicas no Google Play.
Assim, a organização baixou as dez primeiras aplicações que apareciam sob esses termos de pesquisa tanto em um dispositivo iOS quanto em um Android e as testou utilizando apenas as funções gratuitas em aplicações como Best Body AI-Fashion Editor ou Uncensored AI - No filter Chat.
Como resultado, das 46 aplicações da Apple, pelo menos 18 podiam exibir imagens de mulheres nuas ou explícitas, e das 49 aplicações do Google Play, pelo menos 20 atendiam a esse mesmo critério.
OS MOTORES DE BUSCA AJUDAM A ENCONTRAR ESSAS APLICAÇÕES
Além disso, também foram encontrados anúncios de aplicativos com nudez em alguns resultados de pesquisa, incentivando os usuários a encontrar esse tipo de aplicativo. Especificamente nos resultados do Google, foi exibido um carrossel de anúncios de alguns dos aplicativos “mais explicitamente sexuais” encontrados na investigação.
Seguindo essa linha, as sugestões de autocompletar ao pesquisar nessas lojas de aplicativos também recomendavam termos de pesquisa adicionais relacionados a conteúdo erótico, que levavam a mais aplicativos com conteúdo adulto.
Com tudo isso, o relatório da TTP detalha que os aplicativos com conteúdo adulto que apareceram nas lojas de aplicativos da Apple e do Google foram baixados um total de 483 milhões de vezes e geraram mais de 122 milhões de dólares (cerca de 103 milhões de euros, ao câmbio) em receita total, de acordo com dados coletados pela empresa de análise de aplicativos AppMagic.
Vale destacar que, entre os aplicativos de conteúdo erótico encontrados, pelo menos 31 são classificados pelas próprias lojas de aplicativos como adequados para menores. A esse respeito, a organização destacou como esse tipo de aplicativo pode influenciar a crescente preocupação com o uso de “deepfakes” sexuais envolvendo menores nas escolas.
O PAPEL DA APPLE E DO GOOGLE
Nem a Apple nem o Google deram explicações sobre por que as funções de busca de suas lojas de aplicativos levam a encontrar aplicativos com conteúdo sexual, bem como sobre o processo pelo qual eles passam para ser aprovados em suas revisões ou por que são aprovados como adequados para menores.
Além disso, deve-se levar em conta que tanto a Apple quanto o Google têm normas contra aplicativos que “exibem” usuários ou permitem qualquer tipo de conteúdo sexual. Por exemplo, a Apple proíbe aplicativos que sejam “ofensivos, insensíveis, perturbadores, que busquem causar repulsa, de péssimo gosto ou simplesmente inquietantes”, incluindo “material abertamente sexual ou pornográfico”.
Da mesma forma, a Google Play Store proíbe aplicativos que “contenham ou promovam conteúdo sexual”, bem como aqueles que “degradem ou objetifiquem pessoas, como os que afirmam despir pessoas ou mostrar transparência nas roupas”.
A esse respeito, o porta-voz do Google, Dan Jackson, afirmou que “muitos dos aplicativos” identificados pela TTP foram suspensos e que o processo de aplicação das normas pela empresa continua.
“Quando somos informados sobre violações de nossas políticas, investigamos e tomamos as medidas cabíveis”, detalhou o porta-voz, ao mesmo tempo em que lembrou que é a Coalizão Internacional de Classificação por Idade que estabelece as classificações etárias dos aplicativos na Play Store, e não a própria Google.
No total, a Google removeu sete aplicativos relacionados a conteúdo sexual com IA. Por sua vez, a organização destacou que a Apple removeu 15 aplicativos após a publicação de seu relatório.
Com tudo isso, a TTP ressaltou que esse tipo de comportamento demonstra que “essas plataformas são participantes-chave na disseminação de ferramentas de IA que podem transformar pessoas reais em imagens sexualizadas”.
Esta notícia foi traduzida por um tradutor automático