Rolf Vennenbernd/dpa - Arquivo
MADRID 23 jun. (Portaltic/EP) -
O Conselho de Supervisão da Meta exigiu que a empresa de tecnologia reforçasse a proteção de pessoas que não são figuras públicas contra os “deepfakes” de caráter sexual gerados por inteligência artificial (IA) nas redes sociais da empresa, após revogar uma decisão da empresa de manter publicado no Instagram um vídeo que suplantava a identidade de uma mulher.
O órgão alertou que a proliferação de ferramentas de IA está impulsionando significativamente a criação e a divulgação de conteúdo sexualizado sem consentimento, uma tendência que pode causar “danos psicológicos e à reputação” às vítimas e que afeta principalmente mulheres e meninas.
Nesse contexto, o órgão citou um caso ocorrido em setembro de 2025, quando uma usuária publicou no Instagram um vídeo de oito segundos, supostamente gerado por IA, no qual aparecia uma mulher ajustando um vestido justo e mostrando sua roupa íntima em alguns quadros.
Os sistemas automatizados da Meta para detectar conteúdo potencialmente prejudicial e com alta probabilidade de viralização identificaram a publicação; no entanto, a revisão humana não foi priorizada. Além disso, apesar de dois usuários terem denunciado o conteúdo nos dias seguintes à publicação, a Meta continuou exibindo-o na plataforma, conforme detalhado pela organização em um comunicado.
Por fim, após recorrer do caso ao Conselho Administrativo da Meta, explicando que se tratava de um vídeo gerado por IA e que suplantava a identidade de uma mulher sem consentimento, os especialistas da empresa revisaram a publicação e concluíram que “não se justificava sua remoção” de acordo com as Normas da Comunidade da empresa; por isso, ela continua disponível, embora seja visível apenas para adultos.
DECISÃO DA META REVOGADA
O Conselho de Supervisão da Meta analisou o caso e determinou que a decisão da empresa de tecnologia liderada por Mark Zuckerberg foi incorreta e não protege os usuários, pois viola a proibição de compartilhar imagens íntimas não consensuais (NCII) estabelecida na Política de Exploração Sexual de Adultos da Meta.
Essa política estabelece três critérios para identificar essas publicações: que se trate de conteúdo não comercial em um ambiente privado, que a mulher apareça quase nua e que não haja consentimento. No entanto, a Meta alegou que, como a pessoa que aparecia no vídeo não o denunciou na plataforma nem junto a autoridades independentes, não havia indícios de que “a pessoa que aparecia no vídeo fosse real”.
A esse respeito, o órgão destacou que a suplantação de identidade gerada por IA “não é consensual por padrão” e deve ser incluída “no conjunto de sinais que a empresa utiliza para determinar a falta de consentimento”.
RECOMENDAÇÕES PARA ENDURECER AS POLÍTICAS DE MODERAÇÃO
Assim, instou a Meta a tornar mais rigorosas suas políticas de moderação para lidar especificamente com essas situações de “deepfakes” sexualizados dirigidos contra usuários, e indicou que ampliar os sinais de falta de consentimento beneficiaria “especialmente as pessoas que não são figuras públicas e que são alvo de imagens íntimas não consentidas”.
Seguindo essa linha, o Conselho indicou igualmente que a Meta deveria permitir que os usuários designassem “Contas conectadas”, para que amigos, familiares ou conhecidos de confiança possam denunciar, em nome da pessoa em questão, possíveis violações das Normas da Comunidade relacionadas a imagens íntimas não consentidas.
Por fim, o órgão destacou a importância de incluir a falsificação de identidade sexualizada gerada por IA como uma categoria separada nos formulários padrão de denúncia e recurso de conteúdo. Ou seja, distinta de “assédio” ou “nudez”, e que esses formulários estejam disponíveis em todo o mundo.
Essas recomendações do Conselho de Supervisão da Meta se inscrevem em um contexto de crescente regulamentação internacional sobre conteúdos gerados por IA, com regulamentações por parte de governos como os da Índia, do Reino Unido e da Espanha, que estão desenvolvendo novas normas para as plataformas digitais.
Com tudo isso, o órgão expressou a necessidade de uma resposta mais contundente por parte das plataformas tecnológicas diante da sofisticação alcançada pelas ferramentas de IA, especialmente para proteger aqueles que não têm a visibilidade ou os recursos das figuras públicas para combater esse tipo de abuso.
Esta notícia foi traduzida por um tradutor automático