MADRID 17 jul. (Portaltic/EP) -
Os “AI Overviews” (resumos criados com inteligência artificial) e o Modo IA da pesquisa do Google não atendem aos requisitos mínimos de segurança para usuários menores de idade, de acordo com os critérios da Common Sense Media, que detectou falhas que ignoraram sinais de crise e facilitaram o acesso a informações para a criação de “deepfakes”.
A Common Sense Media, uma organização dedicada à proteção e à preparação de menores para a era digital, realizou uma avaliação de riscos de duas das ferramentas de inteligência artificial mais utilizadas do Google: os “AI Overviews” e o Modo IA.
Ambas estão disponíveis no mecanismo de busca do Google, onde o “AI Overviews” oferece informações resumidas para responder à consulta feita pelo usuário e o Modo AI proporciona uma experiência de busca conversacional. Em ambos os casos, as respostas são acompanhadas de links para as fontes.
Ambas estão disponíveis gratuitamente para todos os usuários e em qualquer dispositivo, o que contribui para que não apenas adultos, mas também menores de idade as utilizem — exatamente o que motivou a análise da Common Sense Media, cujo resultado mostra que “elas geram riscos inaceitáveis para crianças e adolescentes”.
Conforme explicam em um comunicado, as duas ferramentas de IA falharam ao detectar sinais de crise, relacionados a pensamentos suicidas e sintomas de psicose, e validaram distúrbios alimentares. A isso se soma o fato de que elas facilitam a criação de “deepfakes” de cunho sexual, o que pode promover o assédio escolar.
A pesquisa também destaca como ponto negativo que nenhuma das duas ferramentas distingue os usuários menores por faixas etárias para adaptar suas respostas, embora exista a opção de ativar a pesquisa segura.
Elas também realizam todas as tarefas que lhes são solicitadas, o que pode impactar negativamente a aprendizagem dos menores. Como aspecto positivo, a pesquisa aponta que elas mantêm limites em relação a relacionamentos românticos.
Como medidas para melhorar a experiência dos menores, a Common Sense Media recomenda ao Google que ofereça aos pais e às escolas recursos para desativar a pesquisa com IA generativa, estabelecer respostas padronizadas em situações de crise e incorporar diferenças por faixa etária.
Esta notícia foi traduzida por um tradutor automático