Fabian Sommer/dpa - Arquivo
MADRID 19 out. (Portaltic/EP) -
A Apple atualizou as Diretrizes de revisão de aplicativos da App Store para proibir de forma mais explícita os aplicativos que geram imagens de nudez por meio de inteligência artificial (IA) sem o consentimento das pessoas, o que significa que os desenvolvedores deverão remover proativamente esse conteúdo.
O material pornográfico é proibido na App Store há muito tempo, incluindo aplicativos que geram nudez ou imagens sexualmente explícitas, bem como aplicativos que criam esse tipo de conteúdo com pessoas reais sem o consentimento delas, sobretudo, atualmente, por meio de ferramentas baseadas em IA.
No entanto, a empresa de tecnologia tem sido alvo de críticas por permitir que aplicativos que geram esse tipo de conteúdo sejam disponibilizados na App Store. É o caso do X e da IA da Grok, que inundaram as redes sociais com cerca de três milhões de imagens sexualizadas em janeiro deste ano, incluindo 23 mil que representavam crianças e cerca de 1,8 milhão nas quais apareciam mulheres.
Nesse caso, os usuários utilizaram a IA de Elon Musk para gerar imagens de nudez com “deepfakes” sexuais não consentidos e, apesar de a Apple ter ameaçado a xAI com a retirada do aplicativo do assistente de IA da App Store, este permaneceu disponível o tempo todo na loja.
Com o objetivo de reverter esse tipo de situação, a Apple anunciou agora atualizações em suas Diretrizes de Revisão de Aplicativos para “manter a confiança tanto dos usuários quanto dos desenvolvedores”, que reforçam e ampliam as proteções existentes na App Store, conforme detalhado em um comunicado.
Especificamente, as imagens íntimas não consentidas, incluindo aquelas geradas com ferramentas de IA, foram incluídas explicitamente nos requisitos de moderação de conteúdo. Portanto, os desenvolvedores deverão “prevenir e remover” proativamente esse conteúdo de seus aplicativos.
Caso os desenvolvedores não implementem essas medidas de segurança ou não corrijam as infrações após receberem uma notificação, estarão sujeitos à violação do Código de Conduta para Desenvolvedores e, portanto, poderão ser excluídos da App Store.
Da mesma forma, a Apple também destacou em suas diretrizes que são proibidos aplicativos que falsifiquem seu funcionamento durante o processo de revisão, ou seja, aplicativos que adicionem ou alterem funcionalidades após terem sido aprovados. Isso significa que, se um aplicativo tiver sido revisado e aprovado e, posteriormente, incluir funções para gerar conteúdo com nudez, ele também será proibido.
Por fim, as diretrizes atualizadas esclarecem que qualquer aplicativo que permita “o tráfico de pessoas ou a exploração de menores” será removido da App Store e permanecerá bloqueado para distribuição alternativa.
“Estamos comprometidos em impedir que usuários mal-intencionados tenham acesso à App Store e contamos com processos estabelecidos para revisar e punir os aplicativos que infringirem nossas diretrizes”, acrescentou a Apple.
Além disso, a empresa detalhou que, no ano passado, impediu que mais de 150 mil aplicativos com problemas de segurança chegassem aos usuários, além de ter cancelado mais de 193 mil contas de desenvolvedores por participarem de fraudes e abusos desse tipo.
Esta notícia foi traduzida por um tradutor automático