MADRI 17 set. (Portaltic/EP) -
A OpenAI está trabalhando em um novo sistema que ajudará seu chatbot de inteligência artificial (IA) ChatGPT a identificar automaticamente quando estiver interagindo com um adolescente ou menor de idade, para que acione uma experiência adequada à idade e bloqueie conteúdo inadequado.
A empresa liderada por Sam Altman compartilhou sua intenção de continuar a melhorar a segurança de todos os usuários, especificamente fortalecendo a proteção de adolescentes com ferramentas eficazes, como os controles parentais anunciados recentemente.
Nesse sentido, a OpenAI anunciou que está desenvolvendo um sistema que será capaz de identificar se uma pessoa tem mais ou menos de 18 anos, de modo que adaptará a experiência do ChatGPT com base em sua idade e necessidades, alterando automaticamente a forma como o chatbot responde a um jovem de 15 anos ou a um adulto.
Conforme explicado em uma declaração em seu blog, quando um usuário com menos de 18 anos for identificado, ele será automaticamente direcionado para "uma experiência do ChatGPT com políticas adequadas à idade". Isso significa que serão tomadas medidas que vão desde o bloqueio de conteúdo sexualmente explícito até, "em casos excepcionais de extrema angústia", a possível intervenção das autoridades policiais para garantir a segurança.
Caso o ChatGPT não tenha certeza da idade de um usuário ou tenha informações incompletas, ele ainda optará por não permitir a experiência para menores de 18 anos, a fim de garantir a segurança em todos os momentos. No entanto, os adultos terão opções para comprovar sua idade e acessar os recursos para adultos.
Essas medidas são adicionais aos controles parentais criados para permitir que as famílias gerenciem como o ChatGPT é usado em suas casas. Até o final de setembro, os pais poderão vincular sua conta à conta do adolescente e definir regras de comportamento para as interações com seus filhos.
Os pais também poderão gerenciar os recursos a serem desativados, incluindo memória e histórico de bate-papo, e definir tempos de inatividade. Além disso, eles também receberão notificações quando o sistema detectar que seu filho está em sérias dificuldades.
Com tudo isso, vale lembrar que foi no final de agosto passado que a empresa de tecnologia começou a fazer alterações em seus modelos de IA para identificar melhor situações de crise mental e emocional durante as conversas do ChatGPT, adicionando novas proteções, bloqueio de conteúdo mais eficaz e agilizando o contato com serviços de suporte e familiares.
Essas alterações, que exigem maior segurança do usuário, ocorrem após um incidente que resultou no suicídio de um adolescente de 16 anos nos EUA em abril deste ano.
Os pais processaram a empresa devido ao papel desempenhado pelo ChatGPT, pois uma análise das conversas de seu filho com o chatbot ao longo de vários meses mostrou que, embora ele tenha oferecido recursos para buscar ajuda em várias ocasiões, as proteções acabaram falhando e a conversa começou a se voltar para o suicídio.
Esta notícia foi traduzida por um tradutor automático