MADRI 8 set. (Portaltic/EP) -
Um relatório de segurança da Common Sense Media concluiu que crianças menores de 18 anos devem evitar usar os modelos do Google Gemini, pois sua versão projetada para menores os trata da mesma forma que a projetada para adultos, e descreveu o assistente de inteligência artificial (IA) da empresa como uma ferramenta de "alto risco".
A Common Sense Media é uma organização sem fins lucrativos de segurança infantil que analisa e fornece classificações sobre uma série de produtos para ajudar os pais a se manterem informados sobre o conteúdo e as tecnologias que seus filhos consomem.
Nesse sentido, após avaliar o Google Gemini, a organização emitiu um relatório recomendando que crianças com menos de 18 anos evitem usar o Google Gemini Teen, a versão do Google Assistant para adolescentes, pois ele trata esses usuários da mesma forma que os adultos, apesar de alegar ter proteções de segurança e conteúdo projetado para crianças e menores de 18 anos.
Em particular, a Common Sense Media disse que essa abordagem ignora o fato de que os adolescentes mais jovens precisam de orientação diferente ao lidar com essas inovações tecnológicas, e considerou o Gemini de "alto risco" para menores, tanto em sua versão para menores de 13 anos quanto em seu formato para adolescentes.
A empresa explicou que sua análise mostrou que o Gemini poderia compartilhar conteúdo "inadequado e potencialmente perigoso" com usuários mais jovens, como conteúdo sexual ou conteúdo relacionado a drogas e álcool. Além disso, o relatório também constatou que a versão para adolescentes do Gemini fornece "com muita facilidade" suporte emocional e de saúde mental "inseguro" e não reconhece sintomas graves de problemas de saúde mental.
Portanto, embora o modelo responda "adequadamente" às solicitações do dia a dia, a Common Sense Media disse que ele "falha rapidamente em conversas mais longas e com solicitações mais sutis e matizadas", que, segundo ela, é como os adolescentes realmente interagem com os chatbots.
Portanto, a Common Sense Media recomenda que crianças com menos de cinco anos não usem chatbots com IA e que crianças de seis a 12 anos só os usem sob a supervisão de um adulto. Ela também esclareceu que o uso independente de chatbots "é seguro para adolescentes de 13 a 17 anos", mas somente para trabalhos escolares e projetos criativos. Ele também enfatizou que continua a rejeitar o uso de chatbots por qualquer menor de idade para companhia, "incluindo saúde mental e apoio emocional".
RESPOSTA DO GOOGLE
Em resposta ao relatório, o Google garantiu ao TechCrunch que possui políticas específicas e medidas de segurança para menores para evitar resultados "prejudiciais", e que consulta especialistas externos para melhorar suas proteções.
No entanto, o gigante da tecnologia admitiu que algumas das respostas do Gemini "não funcionam como planejado" e recentemente adicionou medidas de segurança adicionais para resolver esse problema.
O Google também declarou que o relatório parece ter se referido a recursos não disponíveis para usuários menores de 18 anos e que não teve acesso às perguntas que a Common Sense Media usou em seus testes.
CASO OPENAI
O relatório surge poucos dias depois de a OpenAI ter sido forçada a alterar as medidas de segurança do ChatGPT após o suicídio de um adolescente, um caso em que os pais da criança processaram a empresa liderada por Sam Altman sobre o papel do chatbot.
A empresa anunciou que estava fazendo alterações em seus modelos de IA para identificar melhor situações de crise mental e emocional durante as conversas do ChatGPT, com novas proteções, bem como bloqueio de conteúdo mais eficaz e contato mais rápido com serviços de apoio e familiares.
Esta notícia foi traduzida por um tradutor automático