Yui Mok/PA Wire/dpa - Arquivo
MADRID 15 abr. (Portaltic/EP) -
A Apple revelou que tomou medidas internas diante da onda de imagens sexualizadas de mulheres e crianças geradas pela ferramenta de geração de imagens do Grok, e que ameaçou a empresa de inteligência artificial (IA) xAI com a remoção do aplicativo do seu assistente Grok da App Store por “violar suas diretrizes”.
Em janeiro deste ano, o Grok inundou a rede social X com cerca de três milhões de imagens sexualizadas durante aproximadamente 11 dias, incluindo 23 mil que representavam crianças e cerca de 1,8 milhão nas quais apareciam mulheres, segundo dados coletados pelo Centro para o Combate ao Ódio Digital (CCDH).
Esses fatos ocorreram devido a uma opção disponível no X, que permitia usar o Grok para editar imagens publicadas na rede social com apenas um clique. Assim, o “chatbot” atendia ao pedido de alguns usuários de despir mulheres e crianças, modificando suas imagens para colocá-las em biquínis ou em posições sexuais. Essas imagens eram compartilhadas em resposta às publicações originais no X.
Na ocasião, organizações de direitos digitais, segurança infantil e direitos das mulheres, bem como instituições governamentais, solicitaram diretamente à Apple e ao Google que tomassem medidas para “proibir o Grok” em suas lojas de aplicativos.
Agora, foi divulgado que a Apple realmente agiu internamente e ameaçou a empresa de propriedade de Elon Musk, a xAI, com a retirada do aplicativo do assistente de IA da App Store. Os motivos foram a violação de suas diretrizes ao não limitar a geração de imagens sexualizadas pelos usuários e permitir sua viralização pela rede social X.
Isso consta em uma carta enviada pela própria Apple a senadores americanos para explicar como lidou com o aumento dessas publicações geradas pelo Grok, conforme divulgado pela NBC News, que teve acesso à carta, e relatado pelo 9to5Mac.
Especificamente, após “receber reclamações e acompanhar a cobertura da mídia sobre o escândalo”, a Apple entrou em contato de forma privada com as equipes responsáveis pelo X e pelo Grok, exigindo que seus desenvolvedores “criassem um plano para melhorar a moderação de conteúdo”.
Em resposta, conforme detalhado na carta, o X enviou uma primeira atualização do aplicativo Grok para revisão pela Apple, mas a empresa de Cupertino não aprovou, pois considerou as mudanças insuficientes.
Em seguida, a empresa de Elon Musk enviou novamente uma versão atualizada do aplicativo Grok, desta vez acompanhada de uma versão revisada da rede social X. Nesse caso, a Apple considerou que o X “havia corrigido substancialmente suas infrações”; no entanto, determinou que o aplicativo Grok continuava descumprindo os requisitos de suas diretrizes.
Foi nesse momento que a Apple notificou o desenvolvedor de que “eram necessárias alterações adicionais para corrigir a infração” ou, caso contrário, “o aplicativo poderia ser removido da App Store”, ameaçando excluí-lo oficialmente de sua loja de aplicativos.
Por fim, a X implementou novas alterações em seu aplicativo de assistente de IA que, embora não tenham sido especificadas, serviram para que a Apple determinasse que o Grok “havia melhorado substancialmente”, aprovando esta última versão e permitindo manter o aplicativo na App Store.
Essa série de modificações está em consonância com as alterações que a X realizou em seu serviço de rede social e no Grok durante os incidentes ocorridos em janeiro com a sexualização de imagens. Em primeiro lugar, limitou o gerador de imagens do Grok, permitindo seu uso apenas para membros pagantes. No entanto, acabou bloqueando a geração de imagens sexualizadas por meio do Grok para todos os usuários.
Apesar da moderação da ferramenta, a NBC News também aponta que os usuários continuam encontrando maneiras de usar o Grok para gerar imagens sexualizadas de pessoas sem seu consentimento.
Assim, de acordo com uma nova reportagem compartilhada pelo referido veículo, embora a quantidade dessas publicações tenha diminuído em comparação com janeiro, foram documentados dezenas de casos semelhantes nos quais são exibidas imagens de mulheres com roupas “mais reveladoras”, como sutiãs esportivos, trajes justos ou fantasias.
Esta notícia foi traduzida por um tradutor automático