Eduardo Parra - Europa Press - Arquivo
MADRI 14 fev. (Portaltic/EP) -
A OpenAI está fazendo alterações na moderação das solicitações que os usuários inserem em seu chatbot ChatGPT, o que levou à remoção dos avisos laranja que notificam os usuários sobre o conteúdo que pode violar suas políticas.
A empresa de tecnologia decidiu remover "muitos avisos desnecessários na interface do usuário", que até agora notificavam sobre solicitações de conteúdo que poderiam violar as regras da ferramenta.
O anúncio foi feito pelo gerente de produto do aplicativo ChatGPT, Nick Turley, em uma breve declaração compartilhada no X (antigo Twitter). O motivo é que a OpenAI agora acredita que os usuários devem "poder usar o ChatGPT como acharem melhor, desde que cumpram a lei e não causem danos a si mesmos ou a outros".
Um dos avisos removidos é o aviso laranja, uma caixa preta com letras laranja que às vezes aparece nos avisos ao usuário, conforme também confirmado no X por Laurentia Romaniuk, membro da equipe de comportamento de modelos da OpenAI.
Esse não é o único aviso que o ChatGPt exibe, pois caixas vermelhas e até mesmo frases de rejeição, como "Desculpe, não vou fazer isso", também podem aparecer.
COMO SEUS MODELOS SE COMPORTAM
A OpenAI explicou recentemente como seus modelos se comportam em resposta às solicitações dos usuários, especialmente aquelas relacionadas a tópicos controversos. Eles partem do fato de que não podem mitigar todos os casos, mas se concentram nos mais graves.
Nesses casos, a empresa de tecnologia garante que o 'chatbot' não deve gerar conteúdo considerado proibido - sexual e pedófilo -, restrito - riscos informacionais e dados pessoais confidenciais - ou sensível - erótico, gore -, que só pode ser gerado "em circunstâncias específicas". Por exemplo, "contextos educacionais, médicos ou históricos".
Também não pode gerar conteúdo de ódio ou assédio direcionado a grupos protegidos com base em raça, religião, gênero, orientação sexual, deficiência etc., incluindo insultos e qualquer linguagem que desumanize.
A OpenAI também entende que, se o usuário ou desenvolvedor pedir ao assistente que facilite um comportamento ilegal, o assistente deve recusar e não tem permissão para incentivar ou promover comportamentos negativos ou prejudiciais por parte dos usuários.
Esta notícia foi traduzida por um tradutor automático