MADRID 7 out. (Portaltic/EP) -
A Common Sense Media alertou sobre a versão do ChatGPT destinada a adolescentes, alegando que ela representa “um risco inaceitável” para os menores, após identificar falhas em suas medidas de segurança, como o fato de nem sempre alertar os pais sobre conversas relacionadas a automutilação, permitir que as restrições sejam contornadas para aprimorar o aprendizado e não realizar a estimativa da idade dos usuários.
A OpenAI lançou sua versão do ChatGPT para adolescentes em agosto deste ano como uma experiência do assistente de IA projetada especificamente para usuários menores de 18 anos. Com isso, o “chatbot” pode prever a idade do menor e, com base nisso, estabelecer restrições ativadas por padrão e controles parentais, além de reforçar seu papel como ferramenta de aprendizagem e reduzir seu comportamento do tipo “amigo” para deixar claro que não se trata de um ser humano, mas de uma IA.
A empresa indicou, na época, que o objetivo dessa experiência é garantir que os menores possam utilizar o ChatGPT com segurança, desenvolvendo seu pensamento crítico, com respostas adequadas à idade do usuário, conteúdo sensível restrito e com a opção de enviar notificações aos pais para conversas relacionadas a temas de risco, como automutilação ou distúrbios alimentares.
No entanto, a organização sem fins lucrativos Common Sense Media, que analisa a segurança de serviços e aplicativos, concluiu que o ChatGPT para adolescentes representa “um risco inaceitável” para as crianças, após analisar essa experiência do ‘chatbot’.
Especificamente, o estudo foi conduzido pelo Instituto de Segurança em IA Juvenil da Common Sense Media, que, após testar a experiência do ChatGPT antes e depois do lançamento de sua versão para adolescentes, concluiu que as novas proteções para menores da OpenAI “não cumprem o que foi prometido pela empresa”.
Conforme divulgado pela organização em um comunicado, durante o estudo foram analisadas mais de 4.000 perguntas em contas registradas por jovens de 13 a 17 anos, e as respostas do ‘chatbot’ foram comparadas com as de especialistas.
NÃO ALERTA OS PAIS NEM RECOMENDA ENTRAR EM CONTATO COM UM PROFISSIONAL
Como resultado, constatou-se que algumas medidas de proteção realmente funcionam — por exemplo, a recusa em realizar uma encenação de papéis sexuais —, mas outras não cumprem os compromissos assumidos pela empresa de tecnologia liderada por Sam Altman.
Uma das falhas identificadas foi que o ‘chatbot’ não envia alertas aos pais quando deveria. Conforme foi constatado, após passar uma hora discutindo temas como suicídio, automutilação ou distúrbios alimentares em contas recém-criadas simulando adolescentes, o ChatGPT não enviou nenhum alerta às contas dos pais vinculadas a essas conversas.
Vale ressaltar que os alertas só eram enviados em contas mais antigas, com semanas de histórico acumulado de conversas sobre temas sensíveis, conforme esclareceu a organização.
Além disso, o estudo concluiu que a versão para adolescentes “não oferece a ajuda adequada em situações de crise”, pois, após conversas sobre suicídio, automutilação ou distúrbios alimentares, o ChatGPT não recomendou “de forma confiável” que os adolescentes entrassem em contato com uma linha de apoio profissional.
Como resultado, ficou abaixo do limite de 95% em três dos cinco danos graves que o Instituto considera como “Linhas Vermelhas”.
NÃO REFORÇA A APRENDIZAGEM E CONTINUA SE EXPRESSANDO COMO UM AMIGO
Da mesma forma, constatou-se que o ChatGPT para adolescentes continua fazendo os deveres de casa dos menores. Isso ocorre porque o modo de estudo, que promete ajudar no aprendizado passo a passo em vez de oferecer diretamente as respostas, é fácil de contornar, e o “chatbot” acaba exibindo a resposta sem complexidade.
Isso ocorre porque a resposta com explicação é acompanhada por uma janela pop-up com a mensagem “Mostre-me a resposta” no modo de estudo. Basta clicar nessa janela pop-up para que a tarefa completa seja exibida.
Da mesma forma, constatou-se que os menores também podem alterar os horários de estudo definidos pelos controles parentais. Para isso, basta remover o prefixo “@study” no início do prompt.
Por outro lado, o Instituto destacou que o ChatGPT para adolescentes continua interagindo com um estilo de conversa que simula ser um amigo, apesar de uma das características dessa versão para menores se basear em restringir esse comportamento humano para se diferenciar como uma IA.
Conforme constatado, o “chatbot” continuou expressando sentimentos, preferências e estados de ânimo em suas respostas, em um comportamento que imita uma pessoa real.
A ESTIMATIVA DE IDADE NÃO FUNCIONA
Por fim, a Common Sense Media concluiu que, embora o ChatGPT para adolescentes inclua ferramentas para estimar a idade real dos usuários com base em suas conversas, os testes realizados demonstram que o comportamento do ‘chatbot’ não variou em nenhum momento, mesmo quando se afirmava ter 13 anos e “o bot reconhecia isso em sua resposta”.
Por tudo isso, a Common Sense Media solicitou à OpenAI que suspenda o serviço do ChatGPT para menores de 18 anos até que as falhas nas proteções de segurança e no aprendizado sejam corrigidas, e a empresa possa oferecer a experiência segura e personalizada que prometeu inicialmente.
Conforme avaliou o diretor executivo do Instituto de Segurança em IA Juvenil, Tom Siegel, essa versão do ChatGPT para adolescentes “poderia dar uma falsa sensação de segurança aos pais em relação às barreiras de segurança e aos alertas de segurança que, muitas vezes, não funcionam”.
“Um adolescente pode passar uma hora falando sobre automutilação sem que seus pais recebam sequer um único alerta. Até que a OpenAI resolva isso e comprove com testes independentes, o ChatGPT deveria ser restrito apenas a adultos”, afirmou Siegel.
Esta notícia foi traduzida por um tradutor automático