MADRI 8 set. (Portaltic/EP) -
A OpenAI está trabalhando na reorganização de suas equipes de pesquisa de Inteligência Artificial (IA), incluindo sua equipe de Modelagem Comportamental, que se tornará parte da equipe de Pós-Treinamento, para criar uma nova equipe do OAI Labs para inventar novas interfaces colaborativas entre pessoas e IA.
O grupo OpenAI Model Behaviour é uma equipe de 14 pesquisadores cujo trabalho é gerenciar como os modelos de IA interagem com os usuários em suas solicitações diárias. Ou seja, eles monitoram questões como a personalidade do modelo ou o tom da resposta, com base em como eles interagem com as pessoas.
No entanto, o diretor de pesquisa da empresa de tecnologia norte-americana, Mark Chen, detalhou as mudanças de reorganização dessa equipe de comportamento, que agora fará parte da equipe de pós-treinamento da OpenAI, responsável por melhorar e corrigir erros de modelos após o treinamento inicial.
Isso foi confirmado pela empresa liderada por Sam Altman em declarações ao TechCrunch, que teve acesso a um relatório interno indicando que a equipe de Comportamento de Modelos agora será liderada pelo chefe da equipe de Pós-Treinamento, Max Schwarzer.
A equipe de Comportamento Modelo é responsável por reduzir comportamentos prejudiciais, como a bajulação dos usuários, fornecendo feedback que reforça suas opiniões, mesmo que não sejam saudáveis. Da mesma forma, ela também equilibra o viés político ou outros comportamentos semelhantes.
Portanto, Chen enfatizou que, ao integrar essa equipe à equipe maior de pós-treinamento, a empresa pretende usar suas habilidades para desenvolver seus modelos principais, colocando a personalidade da IA no centro da evolução de suas tecnologias.
NOVA EQUIPE DE PESQUISA DA OAI LABS
Como parte dessa reorganização, a OpenAI também está trabalhando na criação de uma nova equipe de pesquisa chamada OAI Labs. Ela será liderada pela fundadora da equipe de Modelagem Comportamental, Joanne Jang, e terá como base um grupo encarregado de "inventar e criar protótipos de novas interfaces para a colaboração entre humanos e IA".
Conforme Jang compartilhou em uma publicação na rede social X, esse novo projeto se concentrará em "explorar padrões que vão "além do paradigma do bate-papo ou mesmo dos agentes". Ele se baseará no trabalho que ele vem realizando nos últimos quatro anos na empresa, desde o Dall-e 2 e o modo de voz padrão, até o GPT-4 e a disciplina comportamental do modelo.
"Aprendi o quanto a forma de uma interface pode convidar as pessoas a ultrapassar os limites do que parece possível", disse Joang, enfatizando que ele pensa nos sistemas de IA como "ferramentas para pensar, criar, jogar, fazer, aprender e se conectar" e concentrará o trabalho do OAI Labs nessa área.
Esta notícia foi traduzida por um tradutor automático