Hannes P Albert/Dpa - Arquivo
MADRI 19 dez. (Portaltic/EP) -
O ChatGPT deve tratar os adolescentes como adolescentes, colocar sua segurança em primeiro lugar e promover suporte no mundo real quando detectar que a conversa começa a abordar tópicos de risco, de acordo com a atualização da OpenAI sobre o comportamento de seus modelos para usuários com menos de 18 anos.
A OpenAI atualizou o conjunto de "normas, valores e expectativas comportamentais" que orientam os modelos que desenvolve em suas interações com os usuários para seguir um conjunto de princípios com usuários adolescentes.
"Os adolescentes têm necessidades de desenvolvimento diferentes das dos adultos", diz a empresa em um comunicado, que afirma que esses princípios guiarão o ChatGPT em suas conversas com usuários entre 13 e 17 anos de idade.
Trata-se de uma abordagem que prioriza "prevenção, transparência e intervenção precoce" e se concentra especificamente em quatro compromissos: priorizar a segurança dos adolescentes, promover o apoio no mundo real, tratar os adolescentes como adolescentes e ser transparente, definindo expectativas claras.
Ao fazer isso, o objetivo é que o ChatGPT trate as crianças usuárias em suas conversas como quem elas são, sem condescendência e de uma forma diferente de como interage com os adultos, mas com respeito. E fazer isso tendo sempre em mente a segurança, mesmo que isso entre em conflito com outros objetivos.
Caso a conversa comece a abordar temas considerados de risco ou de alto risco (automutilação, jogos românticos ou eróticos, detalhes explícitos sobre violência ou sexo, atividades e substâncias perigosas, imagem corporal e distúrbios alimentares e pedidos de sigilo), o ChatGPT deve enfatizar o apoio no mundo real, lembrando as relações familiares e de amizade, e oferecer recursos onde se possa buscar ajuda rapidamente.
Esse comportamento direcionado à criança também significa que, às vezes, ela terá de rejeitar algumas de suas solicitações e, em vez disso, oferecer alternativas seguras, entrar em contato com os serviços de emergência locais ou com as linhas de ajuda para crises. "Se não tiver certeza, o assistente deve ser cauteloso", diz a empresa.
Esta notícia foi traduzida por um tradutor automático