MADRI 30 abr. (Portaltic/EP) -
A OpenAI retirou a última atualização de seu modelo GPT-4o devido a bugs que causaram uma personalidade "excessivamente lisonjeira e irritante" na experiência do usuário, e está trabalhando em uma solução para aumentar a honestidade e a transparência.
A empresa de tecnologia liderada por Sam Altman apresentou seu modelo de IA GPT-4o em maio do ano passado, com recursos para aceitar qualquer combinação de texto, áudio e imagem, além de fornecer respostas com uma velocidade semelhante ao tempo de resposta humana.
Embora esse modelo já esteja amplamente disponível, a OpenAI reverteu a última atualização lançada do GPT-4o, devido a um bug que causa um comportamento "excessivamente lisonjeiro e irritante" na experiência do usuário, conforme o próprio Altman compartilhou em uma publicação no X (antigo Twitter).
Especificamente, essa atualização foi lançada na semana passada, e agora a empresa reverteu seu lançamento para usuários gratuitos e assinantes Premium, aguardando a incorporação de correções para modelar a personalidade e relançar a atualização.
A OpenAI disse em um comunicado em seu blog que, ao remover a atualização GPT-4o "excessivamente lisonjeira ou agradável", os usuários agora estão usando uma versão anterior com "comportamento mais equilibrado".
Também indicou que está testando ativamente novas soluções para evitar esse comportamento, priorizando a satisfação do usuário a longo prazo e introduzindo mais recursos de personalização para que ele possa ter mais controle sobre o comportamento do ChatGPT.
POR QUE O CHATGPT ADOTOU UM COMPORTAMENTO EXCESSIVAMENTE BAJULADOR
Quanto às causas desse bug no GPT-4o, a OpenAI explicou que a atualização incluiu ajustes destinados a melhorar a personalidade padrão do modelo para proporcionar uma experiência "mais intuitiva e eficaz" na execução de tarefas.
Para moldar o comportamento do modelo, a empresa usou como base as instruções em sua Especificação de Modelo e incorporou dicas do usuário, como feedback positivo ou negativo, nas respostas do ChatGPT.
No entanto, a empresa se concentrou no uso de feedback de curto prazo e, portanto, o modelo não considerou "como as interações do usuário com o ChatGPT evoluem ao longo do tempo". Como resultado, a OpenAI especificou que o modelo acabou se inclinando para respostas "excessivamente favoráveis, mas insinceras".
Nesse sentido, a OpenAI enfatizou a importância da personalidade do 'chatbot', pois ela afeta a forma como os usuários o utilizam. "Interações lisonjeiras podem ser desconfortáveis, perturbadoras e causar angústia", disse ele.
Para lidar com esse comportamento, a empresa está tomando medidas como o refinamento das técnicas de treinamento e dos avisos do sistema para afastar o modelo da bajulação, além de criar mais barreiras de segurança para aumentar a honestidade e a transparência.
Os usuários também poderão controlar o comportamento do chatbot mais facilmente com recursos como instruções personalizadas. Por exemplo, eles poderão dar feedback em tempo real para influenciar as interações do ChatGPT e escolher entre personalidades pré-determinadas.
Esta notícia foi traduzida por um tradutor automático