MADRI 9 set. (Portaltic/EP) -
O diretor executivo da OpenAI, Sam Altman, criticou o papel dos "bots" nas redes sociais e nos fóruns da Internet, culpando-os por transformar esses espaços em uma experiência "falsa", já que é impossível determinar se as publicações são escritas por humanos ou por conteúdo sintético.
O CEO da empresa de inteligência artificial (IA) refletiu sobre a evolução das interações nas redes sociais e na Internet, levando em conta como os modelos de linguagem ampla (LLM) e a intervenção de "bots" entraram em cena.
Especificamente, em um post na rede social X, Altman se referiu a posts recentes no fórum subreddit r/ClaudeCode, que ele considerou impressionante porque opiniões positivas foram compartilhadas sobre o OpenAI Codex, o serviço de programação de software que a empresa lançou em maio e que compete com o Claude Code da Anthropic.
Nas postagens mencionadas acima, os usuários até indicaram que estavam mudando do Codex para o Codex, mas Altman disse que achou a leitura do fórum "uma experiência muito estranha" e presumiu que eram todas postagens falsas ou 'bots', embora tenha reconhecido que o crescimento do Codex "é muito forte".
Com base nesse exemplo, o executivo comentou que há várias questões que fazem com que essa experiência no Reddit, assim como outras na Internet, pareça falsa para ele. Em primeiro lugar, ele disse que as pessoas adotaram "as peculiaridades da linguagem do LLM" e agora escrevem de forma muito semelhante em suas postagens.
Essa mudança no comportamento humano ocorreu apesar do fato de que os LLMs, por exemplo, os liderados pela OpenAI, foram projetados para fazer exatamente o oposto, ou seja, imitar a comunicação humana.
Além disso, também indicou que o público "extremamente on-line", ou seja, os usuários que estão constantemente conectados e ativos na Internet, "se reúnem de maneiras altamente correlacionadas", o que pode levar a comportamentos alterados, com comportamentos extremos do tipo "é antiquado/está de volta".
Outro fator apontado por Altman é a pressão sentida pelos usuários devido aos incentivos da mídia social para "aumentar o engajamento e a forma como a monetização funciona". Por exemplo, os criadores de conteúdo dependem da interação com outros perfis para gerar receita. Isso pode levar a uma busca por novas formas de gerar interações, não necessariamente humanas.
Nessa linha, o CEO da OpenAI também argumentou que parte de seu raciocínio de que as publicações do Reddit são falsas baseia-se no fato de que a OpenAI também sofreu com o "astroturfing", a prática enganosa de orquestrar campanhas e publicações de bots para fazê-las parecer interações espontâneas, mas que na verdade são financiadas e controladas por uma entidade oculta.
Portanto, Altman sugere que a presença de "bots" orientados pelo LLM nas mídias sociais e nas plataformas da Internet conseguiu mudar a maneira como os usuários interagem entre si e que agora eles estão adotando comportamentos diferentes para coexistir em um espaço em que as publicações falsas estão na ordem do dia.
Notavelmente, Altman também compartilhou recentemente em outra publicação no X que, embora ele nunca tenha levado a sério a teoria da Internet morta, "parece que agora há muitas contas do Twitter administradas por LLMs". Essa teoria postula que, nos últimos anos, a rede deixou de ser dominada por pessoas e passou a ser dominada por algoritmos e sistemas de IA.
Ainda assim, a reflexão do CEO da OpenAI foi surpreendente, dado seu envolvimento na criação da tecnologia de IA que alimenta esses LLMs dos quais os bots dependem para funcionar. Reconhecendo que a linha entre as interações humanas e de bots nas redes sociais ficou embaçada.
"O efeito final é que, de certa forma, o Twitter/Reddit com IA parece muito falso, de uma forma que não parecia há um ou dois anos", disse Altman.
Esta notícia foi traduzida por um tradutor automático