Onur Dogman/SOPA Images via ZUMA / DPA - Arquivo
MADRID 12 jun. (Portaltic/EP) -
A Meta denunciou uma empresa que promove aplicativos que geram nudez em suas plataformas, como parte de uma ação mais ampla contra esse tipo de conteúdo que inclui um novo sistema de detecção.
Os aplicativos que usam inteligência artificial generativa para criar nudez ou imagens sexualmente explícitas de pessoas sem o consentimento delas não são permitidos nas plataformas da Meta, mas são promovidos nelas, como revelou recentemente uma investigação da CBS News.
A empresa afirma que remove anúncios que promovem aplicativos de "nudez" e até bloqueia links para os sites dos quais eles podem ser baixados. Eles também restringiram a exibição de resultados de pesquisa no Facebook e no Instagram quando os usuários digitam palavras-chave como "nudez", "despir-se" e "remover roupas".
Essas medidas são acompanhadas por outras em colaboração com membros da Lantern, uma coalizão de empresas de tecnologia que inicialmente compartilha sinais e bandeiras vermelhas entre contas e comportamentos que violam suas políticas de segurança infantil.
Como remover um anúncio ou um aplicativo de nudez de uma única plataforma "não é suficiente", por meio da Lantern eles também compartilham sinais sobre esse tipo de conteúdo para que outras empresas possam investigar e tomar medidas, conforme explicado em seu blog oficial.
Mais reveladora é a reclamação da Meta à Joy Timeline HK Limited, a empresa que promove os aplicativos CrushAI, depois de tentar, sem sucesso, interromper os anúncios nesses aplicativos removendo-os.
E para melhorar a identificação dos anúncios, mesmo quando eles não incluem nudez, eles desenvolveram uma nova tecnologia para fortalecer os métodos de monitoramento. Eles também expandiram os termos, as frases e os emojis que ajudam a detectá-los e começaram a aplicar as técnicas que usam para desmantelar redes de atividades inautênticas coordenadas.
Esta notícia foi traduzida por um tradutor automático