Hannes P Albert/dpa - Arquivo
MADRI 27 ago. (Portaltic/EP) -
A OpenAI anunciou que fará alterações em seus modelos de inteligência artificial para identificar melhor situações de crise mental e emocional durante conversas no ChatGPT, com novas proteções, bloqueio de conteúdo mais eficaz e contato mais rápido com serviços de apoio e familiares.
O ChatGPT já possui uma série de medidas que são acionadas quando detecta usuários em uma conversa tentando se automutilar e expressar intenções suicidas, oferecendo recursos para buscar ajuda especializada, bloqueando conteúdo sensível ou ofensivo, não respondendo às suas solicitações e tentando dissuadi-los.
Eles também são acionados quando os usuários compartilham sua intenção de prejudicar outras pessoas, o que também pode resultar na desativação da conta e na denúncia às autoridades se os revisores humanos considerarem que há risco iminente.
As medidas são reforçadas no caso de usuários menores de idade, como a OpenAI explica em uma atualização em seu blog oficial, onde compartilha as mudanças que fará para melhorar a proteção dos usuários em situações de crise mental e emocional.
Especificamente, será melhorada a detecção em conversas longas, já que, "à medida que a troca [entre o usuário e o chatbot] aumenta, parte do treinamento de segurança do modelo pode se deteriorar", de acordo com a OpenAI.
Dessa forma, o ChatGPT estará mais atento durante toda a conversa para oferecer recursos de ajuda sempre que necessário e não apenas na primeira vez em que o suicídio for mencionado, por exemplo. Também em várias conversas, para que o modelo possa continuar a responder adequadamente se alguém decidir iniciar outra conversa.
As alterações também visam reforçar o bloqueio de conteúdo, como imagens de automutilação, porque às vezes o chatbot subestima a gravidade da situação e não ativa as proteções.
Isso está associado ao trabalho para fortalecer as medidas de mitigação para "outras formas de sofrimento mental". Uma delas impediria o ChatGPT de fornecer uma resposta a casos sutis de risco e, em vez disso, "conectaria a pessoa à realidade".
Em termos de recursos de emergência, a OpenAI começou a estabelecer recursos locais nos EUA e na Europa e tem como objetivo aumentar a acessibilidade "com acesso a serviços de emergência em um clique".
Em casos de crise aguda, a intenção é ir além da oferta de linhas de ajuda e criar uma rede de profissionais de emergência que possam ser contatados diretamente pelo ChaGPT.
A OpenAI também está explorando maneiras de conectar os usuários com seus entes queridos e não apenas com os serviços de emergência. "Isso poderia incluir mensagens ou chamadas com um clique para contatos de emergência salvos, amigos ou familiares, com sugestões de linguagem para tornar o início da conversa menos intimidador", explicam.
Para usuários com menos de 18 anos, a empresa adicionará em breve controles parentais para ajudar a gerenciar o uso do ChatGPT por seus filhos. A OpenAI também pretende expandi-los com a possibilidade de os adolescentes supervisionados designarem um contato de emergência de confiança em casos de sofrimento grave.
SUICÍDIO DE ADOLESCENTES
A OpenAI anunciou o trabalho na terça-feira, no mesmo dia em que Matt e Maria Raine, pais de Adam Raine, um jovem de 16 anos que se suicidou em abril, processaram a empresa pelo papel desempenhado pelo ChatGPT, de acordo com o The New York Times.
Depois de analisar as conversas que seu filho teve com o ChatGPT desde novembro, primeiro como ajuda nos estudos e depois também como parceiro de interesse e confidente, eles entendem que o chatbot priorizou a interação em detrimento da segurança da criança.
Isso apesar do fato de que, durante meses, o ChatGPT, na versão GPT-4o, falava com calma e empatia e oferecia, em várias ocasiões, recursos para buscar ajuda. Mas, em outras ocasiões, as proteções falharam, especialmente quando a criança aprendeu a contorná-las, indicando que estava procurando ideias para histórias.
Esta notícia foi traduzida por um tradutor automático