MADRID 2 set. (Portaltic/EP) -
A OpenAI anunciou que reforçará as medidas de segurança em seus modelos em conjunto com especialistas e médicos, ao mesmo tempo em que incorporará um conjunto de controles parentais para monitorar a atividade das crianças com o ChatGPT.
A empresa de tecnologia diz que pretende acompanhar o progresso da IA com "profunda experiência em bem-estar e saúde mental" e, para isso, estabeleceu um Conselho de especialistas em bem-estar e inteligência artificial e uma Rede Global de Médicos, que trabalharão juntos.
O Conselho se concentrará na elaboração de diretrizes, prioridades e salvaguardas para descobrir "como a IA pode contribuir para o bem-estar das pessoas e ajudá-las a prosperar", disse a OpenAI em um comunicado compartilhado em seu blog oficial.
A Global Clinicians Network, por sua vez, ajudou a definir modelos comportamentais de IA "em contextos de saúde mental" e, no futuro, também o fará "em áreas como transtornos alimentares, uso de substâncias e saúde do adolescente".
O trabalho com especialistas será reforçado em breve com um novo roteador em tempo real que escolherá o modelo mais adequado de acordo com o contexto da conversa e independentemente da modelagem inicialmente escolhida pelo usuário.
Assim, se o roteador detectar que a conversa está se direcionando para tópicos sensíveis, que podem ser enquadrados como depressão ou sentimentos de angústia, ele oferecerá um modelo de pensamento, como o GPT-5.
Isso ocorre porque, de acordo com seus testes, os modelos de pensamento, como o GPT-5 e o3, passam mais tempo pensando e raciocinando sobre a resposta, de modo que podem oferecer medidas mais benéficas aos usuários.
CONTROLES PARENTAIS
Essas medidas são complementadas por novos controles parentais que ajudarão a gerenciar o uso do ChatGPT pelos adolescentes. Para começar, eles poderão vincular contas e controlar como o chatbot responde com regras de comportamento, que serão ativadas por padrão.
Os pais também poderão gerenciar recursos que complementam a experiência do ChatGPT, para desativar a memória e o histórico de bate-papo. E eles receberão uma notificação se, a partir da conversa da criança, o chatbot detectar que ela está "em sofrimento agudo".
A OpenAI anunciou recentemente alterações em seus modelos de inteligência artificial para identificar melhor situações de crise mental e emocional durante as conversas do ChatGPT, com novas proteções, bloqueio de conteúdo mais eficaz e simplificação do contato com serviços de apoio e familiares.
Essas ações foram tomadas após uma queixa apresentada contra a empresa por Matt e Maria Raine, pais de Adam Raine, um adolescente de 16 anos que tirou a própria vida em abril, devido ao papel do ChatGPT no evento.
Esta notícia foi traduzida por um tradutor automático