Rolf Vennenbernd/dpa - Arquivo
MADRID 12 jan. (Portaltic/EP) - O Google deixou de compartilhar informações relacionadas à saúde em alguns de seus resultados de resumos com inteligência artificial (IA) “AI Overviews”, após um relatório identificar informações erradas que poderiam colocar em risco a saúde dos usuários, tanto para pessoas com câncer quanto com risco de disfunção hepática, entre outros.
A função “Vista criada com IA” ou “AI Overviews” é uma opção que o Google oferece em seu navegador para obter respostas rápidas na experiência de pesquisa, com resumos impulsionados pela IA da Gemini. Esses resumos aparecem na parte superior da página e respondem às perguntas da pesquisa dos usuários com informações concretas.
Nesse sentido, recentemente foi identificado que algumas das respostas do “AI Overviews”, oferecidas em pesquisas relacionadas a problemas de saúde, apresentavam informações ou conselhos errados que poderiam representar um risco à saúde dos usuários em questão.
Isso é detalhado em um relatório elaborado pelo meio de comunicação The Guardian, que começou a analisar esse tipo de resposta após coletar as preocupações de alguns especialistas em saúde, que denunciaram que o Google estava oferecendo informações erradas e “perigosas”.
Especificamente, foram identificados casos em que o 'AI Overviews' forneceu informações falsas sobre o significado de alguns resultados em testes relevantes de função hepática, o que poderia levar usuários com doenças graves dessas características a acreditarem erroneamente que estão saudáveis.
Assim, os resultados do Google afirmavam erroneamente que certos valores relacionados com o intervalo para análises ao sangue hepático eram normais, levando os pacientes doentes a pensar que tinham um resultado normal e a não comparecer às suas consultas de acompanhamento de saúde.
Em outro exemplo, a resposta do “AI Overviews” aconselhava pessoas com câncer de pâncreas a evitar alimentos ricos em gordura, quando os especialistas apontam o contrário e recomendam esse tipo de alimento. Portanto, trata-se de um conselho falso que poderia aumentar o risco de os pacientes morrerem devido a essa doença, de acordo com os especialistas e o meio citado. Seguindo essa linha, também foi constatado que nas pesquisas sobre exames de câncer em mulheres, também foram oferecidos resultados errados de IA, o que poderia levar as afetadas a descartar sintomas reais.
GOOGLE DEIXA DE MOSTRAR RESULTADOS SOBRE SAÚDE EM 'AI OVERVIEWS' Apesar de tudo isso, a empresa de tecnologia afirmou na época que seus resultados de 'AI Overviews' fornecem informações "úteis e confiáveis", além de apontar que alguns dos exemplos compartilhados com a empresa eram "capturas de tela incompletas".
Agora, o Google deixou de compartilhar alguns desses resultados sobre saúde no 'AI Overviews', especificamente para pesquisas como "Qual é o intervalo normal para análises de sangue hepático?" e "Qual é o intervalo normal para testes de função hepática", como o próprio meio de comunicação pôde verificar.
Nesse contexto, a empresa compartilhou com o The Guardian que, embora não comente sobre “eliminações individuais dentro da pesquisa”, nos casos em que o 'AI Overviews' não consegue contexto, trabalha para “alcançar melhorias amplas” e para tomar medidas com base em suas políticas “quando apropriado”.
Além disso, deve-se levar em conta que, para outros assuntos relacionados à saúde, os resumos do 'AI Overviews' continuam disponíveis. A esse respeito, o Google esclareceu que sua equipe interna de médicos revisou os casos compartilhados anteriormente e concluiu que, “em muitos casos”, as informações “não eram imprecisas e, além disso, eram respaldadas por sites de alta qualidade”.
Esta notícia foi traduzida por um tradutor automático