Jens Büttner/dpa - Arquivo
MADRID 2 jun. (Portaltic/EP) -
A Meta planeja confiar principalmente em sistemas de Inteligência Artificial (IA) para avaliar os riscos potenciais de novos recursos projetados para serem integrados em suas plataformas de mídia social, substituindo 90% de suas equipes de revisão existentes.
Ao lançar novas ferramentas para suas redes sociais, como Instagram, WhatsApp e Facebook, a empresa liderada por Mark Zuckerberg tem equipes de revisores que avaliam os riscos potenciais de tais recursos antes de lançá-los, a fim de evitar problemas de privacidade ou a disseminação de conteúdo prejudicial, entre as possíveis consequências.
Atualmente, essas equipes são formadas por pessoas que avaliam as características dos novos recursos por meio de vários processos, mas a Meta agora está considerando substituí-las por sistemas alimentados por IA para a maioria das avaliações de risco.
Isso foi relatado pela mídia americana NPR, que tem acesso a documentos internos e declarações de fontes ligadas à empresa, detalhando que essa é uma medida projetada para lançar mais produtos mais rapidamente e "com escrutínio e oposição menos rigorosos".
Especificamente, o sistema de revisão baseado em IA será responsável por 90% das avaliações de risco, incluindo novos recursos de segurança ou alterações na forma como o conteúdo é compartilhado na plataforma, o que também pode influenciar o funcionamento dos algoritmos de mídia social.
Para isso, as equipes de produtos terão que preencher um questionário sobre o novo recurso e, com base nesse questionário, os sistemas de IA identificarão as áreas de risco e os requisitos necessários para resolvê-las. Os desenvolvedores devem então verificar se seus recursos atendem a esses requisitos para poderem lançá-los, mas eles não precisam ser aprovados pelas equipes de verificação.
Portanto, por não estarem sujeitas à verificação dos revisores, as alterações e os desenvolvimentos podem ter um impacto mais imediato. "As externalidades negativas das mudanças nos produtos têm menos probabilidade de serem evitadas antes de começarem a causar problemas no mundo", disse uma fonte relacionada.
Por sua vez, a Meta disse à mídia que as mudanças no processo de análise de risco para novos recursos acelerarão a tomada de decisões e que continuará a usar a "experiência humana" para lidar com "problemas novos e complexos".
No entanto, a empresa de tecnologia garantiu que "apenas decisões de baixo risco" estão sendo automatizadas usando IA, embora documentos internos indiquem que questões como risco para menores e categorias relacionadas a conteúdo violento e disseminação de informações falsas estão incluídas.
Essas mudanças no processo de revisão de novos recursos coincidem com os relatórios de integridade do Facebook do primeiro trimestre de 2025, que detalham que, depois de deixar de usar verificadores externos para seu sistema de moderação em janeiro, o Facebook observou um aumento no conteúdo violento e no comportamento de assédio na rede social.
Esta notícia foi traduzida por um tradutor automático