MADRID 15 set. (Portaltic/EP) -
As conversas que os usuários mantêm com os “chatbots” da OpenAI e da Anthropic são posteriormente revisadas por prestadores de serviços externos a essas empresas, como parte do trabalho que realizam para ajustar as respostas oferecidas por ambas as inteligências artificiais (IA).
A OpenAI contratou centenas de prestadores de serviços para revisar as instruções (“prompts”) que os usuários digitam em suas conversas com o ChatGPT, conforme informa o 404Media, que teve acesso a documentos internos que abordam esse assunto.
O objetivo dessa revisão é melhorar as respostas que a IA oferece aos usuários, principalmente para evitar que o ChatGPT assuma, durante a conversa, características que possam fazê-lo parecer humano.
Eles também verificam se, em suas respostas, a IA não se mostra bajuladora, ou seja, se não concorda com os usuários o tempo todo. Esse ponto é importante, pois os usuários utilizam os “chatbots” de IA não apenas como ferramentas de pesquisa e produtividade, mas também como confidentes, terapeutas ou consultores médicos, em busca de orientação para agir em determinadas circunstâncias.
A bajulação pode acabar influenciando negativamente as crenças e intenções dos usuários, reafirmando-os em sua intenção de realizar ações que são claramente prejudiciais.
As mensagens revisadas pelos prestadores de serviços provêm das conversas e podem conter dados confidenciais, mesmo que eles não vejam o nome de usuário e as informações pessoais sejam removidas antes que as conversas cheguem até eles, conforme indica a OpenAI.
A Anthropic, outra das principais empresas de IA, confirmou ao veículo de mídia citado que emprega revisores humanos para aprimorar seus modelos com os usuários que ativam a opção correspondente, e que remove seu identificador.
O Google, por sua vez, informa nos termos de serviço do Gemini que emprega revisores humanos que analisam algumas das conversas para aprimorar os modelos de IA. “Eles avaliam se as respostas dos aplicativos do Gemini foram de baixa qualidade, errôneas ou prejudiciais. Também sugerem respostas melhores”, explica. As conversas revisadas são mantidas por um período máximo de três anos, mas é possível não participar dessa revisão desativando a opção “Salvar atividade”.
Não é o primeiro caso de uma empresa que delega a revisão das interações com seu produto de IA a uma equipe de revisores humanos. Em 2019, soube-se que a Amazon, a Apple e o Google gravavam e analisavam as conversas que os usuários tinham com seus respectivos assistentes (Alexa, Siri e Assistente) com o objetivo de melhorar seus serviços, o que levou a mudanças em suas políticas e à incorporação da possibilidade de optar por não participar desse processo.
Esta notícia foi traduzida por um tradutor automático