MADRI 19 dez. (Portaltic/EP) -
A OpenAI e a Anthropic estão começando a levar a sério a presença de menores de idade em seus chatbots, seja para oferecer uma experiência de usuário adequada à idade ou para restringi-la completamente e limitá-la aos maiores de 18 anos.
O ChatGPT já começou a implementar seu modelo de previsão de idade, que introduz proteções adicionais para adolescentes por padrão, para manter a experiência do chatbot segura e adequada à idade.
É um sistema que deixa a cargo do ChatGPT a decisão de ativar ou não as proteções. Mas ele faz isso com base em uma série de sinais que revelam a idade do usuário, como os tópicos sobre os quais ele fala ou os horários do dia em que o usa.
Se detectar que o usuário tem menos de 18 anos, ele reduzirá a visibilidade de conteúdo sensível, ou seja, conteúdo que mostre violência gráfica ou conteúdo sangrento, desafios virais que possam incentivar comportamentos arriscados ou prejudiciais, dramatizações sexuais, românticas ou violentas e conteúdo que promova padrões extremos de beleza, dietas não saudáveis ou vergonha do corpo.
Caso o ChatGPT esteja em dúvida sobre a idade de um usuário, ele definirá as proteções padrão para menores. Se for um adulto, essa pessoa terá que confirmar sua idade tirando uma selfie (em tempo real com a câmera ou com uma identificação oficial).
A Anthropic, por outro lado, exige que os usuários de seu chatbot Claude tenham mais de 18 anos, justamente por causa dos efeitos nocivos que as conversas com uma IA podem ter. Portanto, todos os usuários devem verificar sua idade ao criar uma conta.
O chatbot também pode detectar a idade do usuário durante a conversa a partir de uma série de classificadores, para que ela possa ser verificada. Se o usuário for menor de idade, a conta será desativada.
O Anthropic reforçará esse sistema de detecção com um novo classificador que permitirá levar em conta outros sinais mais sutis que podem revelar a idade real de um usuário.
Esta notícia foi traduzida por um tradutor automático