Europa Press/Contacto/Davide Bonaldo - Arquivo
MADRID, 6 jul. (EUROPA PRESS) -
As ferramentas de inteligência artificial utilizadas para gerar, editar ou contextualizar publicações nas redes sociais podem introduzir preconceitos ocultos que se propagam pelas redes online e moldam a opinião pública, de acordo com uma nova pesquisa do Oxford Internet Institute (OII) da Universidade de Oxford (Reino Unido) e do Hasso Plattner Institute da Universidade de Potsdam (Alemanha).
O trabalho foi aceito para apresentação nos workshops “AI4Good” e “Pesquisa sobre governança técnica da IA” na Conferência Internacional sobre Aprendizado Automático (ICML 2026), em Seul, na Coreia do Sul.
O estudo revela que os modelos linguísticos complexos (MLC) alteravam sistematicamente o sentido das publicações nas redes sociais sobre temas controversos, mesmo quando lhes era explicitamente indicado que mantivessem o significado original. Os pesquisadores também demonstraram, por meio de simulações de redes sociais reais, como essas pequenas alterações poderiam se acumular ao longo de milhões de interações e influenciar gradualmente a opinião pública.
Os resultados levantam questões sobre o uso crescente de ferramentas de redação baseadas em inteligência artificial nas plataformas de redes sociais e sugerem que a comunicação mediada por IA poderia se tornar um novo e poderoso mecanismo para influenciar o discurso público.
As ferramentas de redação e edição baseadas em IA podem introduzir viéses nas publicações nas redes sociais. Os grandes modelos linguísticos (LLM, na sigla em inglês) alteraram sistematicamente o rumo das mensagens dos usuários sobre temas controversos, mesmo quando receberam instruções para preservar o significado original.
Os viéses foram semelhantes nos diferentes sistemas de IA. Vários modelos tenderam a influenciar as publicações em direções semelhantes, favorecendo algumas posições, como o controle de armas, a legalização da maconha e o feminismo, enquanto se opunham a outras, como o ateísmo e a pena de morte.
Pequenas alterações em publicações individuais podem influenciar a opinião pública ao longo do tempo. Simulações realizadas com dados reais de redes sociais demonstraram que os viéses sutis introduzidos nas publicações podem se acumular e modificar gradualmente as opiniões nas comunidades online.
A comunicação assistida por IA cria uma nova via para influenciar o discurso público. Os pesquisadores afirmam que os sistemas de IA integrados às plataformas de redes sociais podem moldar a forma como as opiniões se disseminam online, o que levanta novos desafios para a transparência, a prestação de contas e a regulamentação.
A fonte do viés não reside apenas no modelo de IA em si. O estudo demonstra que as decisões específicas de implementação tomadas pelas plataformas podem afetar significativamente a direção e a magnitude da influência gerada pela IA.
Os pesquisadores treinaram grandes modelos linguísticos (LLM) de diferentes fornecedores para transformar textos escritos por humanos sobre temas controversos em publicações otimizadas para redes sociais. Em seguida, analisaram se as versões geradas pela IA alteravam sistematicamente a postura expressa nas publicações originais.
Posteriormente, utilizaram modelos matemáticos e simulações computacionais, baseados em dados reais das redes sociais do X e do Facebook, para examinar como essas pequenas mudanças poderiam se propagar pelas redes online e afetar a opinião pública em geral ao longo do tempo.
Ao recriar e testar a função “Explicar esta publicação” do X, com foco em publicações relacionadas ao aborto, os pesquisadores descobriram que o Grok apoiava mais as publicações pró-vida do que as pró-escolha. Ao remover as instruções do X uma a uma, eles rastrearam esse desequilíbrio até uma única instrução que orientava o Grok a “questionar as narrativas dominantes, se necessário”.
Essa experiência ilustra como intervenções específicas e fáceis de implementar nas plataformas podem influenciar a maneira como os sistemas de IA afetam o discurso público online.
FORMA EMERGENTE DE INFLUÊNCIA
A pesquisa destaca a comunicação mediada por IA como uma forma emergente de influência que os marcos regulatórios existentes ainda não contemplam. Embora iniciativas como a Lei de IA da UE e a Lei de Serviços Digitais se concentrem nos riscos sistêmicos, conteúdo prejudicial, discriminação e ameaças aos processos democráticos, elas não abordam diretamente as formas mais sutis pelas quais a IA pode moldar opiniões por meio da redação, edição ou contextualização de conteúdo online.
“Nossa pesquisa aponta a comunicação mediada pela IA como uma forma nova e mais sutil de influenciar opiniões e oferece motivos para refletir sobre quem ou o que está moldando o discurso público”, declara a autora principal, Sandra Wachter, professora de Tecnologia e Regulamentação no Instituto da Internet de Oxford, da Universidade de Oxford (Reino Unido).
Esta notícia foi traduzida por um tradutor automático