MADRID 1 out. (EUROPA PRESS) -
O Conselho Consultivo Científico das Academias Europeias (EASAC) e a Federação Europeia de Academias de Medicina (FEAM) exigem uma “supervisão humana rigorosa” para a inteligência artificial (IA) na área da saúde de alto risco, em um relatório conjunto que reúne recomendações para aproveitar seus benefícios e, ao mesmo tempo, garantir uma implantação segura, ética e inclusiva.
“A IA deve ser uma ferramenta que capacite o profissional de saúde, nunca que o substitua ou o desloque, e sua implantação deve ser proativa e não reativa. Todos os países europeus concordam com isso. O mais difícil foi traduzir isso em recomendações concretas que fizessem sentido em 29 sistemas de saúde nacionais muito distintos entre si, com diferentes níveis de digitalização, financiamento e marcos regulatórios”, afirma o vice-presidente da FEAM, o professor Luis Martí-Bonmatí, que liderou o grupo de trabalho responsável pela elaboração deste relatório, composto por 22 cientistas europeus de renome.
Nessa mesma linha, David Ríos, membro da Real Academia de Ciências da Espanha, que participou da elaboração do relatório e trabalhou especialmente na seção dedicada à segurança, destaca que “a medicina está mudando completamente com a chegada da IA e era necessário analisar quais riscos ela apresenta e como podemos enfrentá-los”.
Segundo o matemático, o relatório traz recomendações para mitigar esses riscos e, entre outras questões, “evitar que os algoritmos possam ser injustos com determinados grupos da população”.
“O ponto mais controverso talvez tenha sido encontrar o equilíbrio na Europa entre regulamentação e inovação”, afirma o professor Martí-Bonmatí, que também é membro titular de Radiologia e Radiodiagnóstico da Real Academia Nacional de Medicina da Espanha (RANME).
“Todos concordamos que a IA na área da saúde de alto risco precisa de supervisão humana rigorosa, mas também sabemos que uma regulamentação excessivamente rígida para seu desenvolvimento e implementação dificulta o uso dessas ferramentas que agregam um valor clínico real”, reconhece.
É PRECISO PRIORIZAR A SEGURANÇA NO PROJETO
“Não se deve necessariamente escolher os modelos mais simples ou fáceis de implementar, mas sim aqueles que sejam mais robustos. Em um ambiente hostil, um modelo precisa ter sido treinado para enfrentar situações adversas e ser capaz de manter seu funcionamento”, adverte Ríos sobre a importância de a segurança fazer parte do projeto desses sistemas desde o início.
Por isso, os autores do relatório apostaram na criação de “ambientes controlados de experimentação regulatória”, os chamados “regulatory sandboxes”. “Seriam ambientes controlados e seguros, por tempo limitado, onde os inovadores poderiam testar novas ferramentas de IA sob supervisão regulatória, com garantias para os pacientes, enquanto os reguladores aprendem como aplicar a regulamentação existente”, explica o professor Martí-Bonmatí.
Outro ponto de atrito, acrescenta ele, foi “até que ponto exigir padrões comuns de interoperabilidade de dados entre os países, respeitando, ao mesmo tempo, a autonomia de cada Estado-membro sobre seu próprio sistema de saúde”. Os sistemas de IA já são utilizados em diversos âmbitos da assistência à saúde e têm potencial para trazer benefícios importantes, especialmente na atenção clínica e na saúde pública.
No entanto, na ausência de normas claras, eles também podem gerar problemas como vazamentos ou uso indevido de dados, vieses nos algoritmos ou perda do controle humano sobre determinadas decisões. Ríos alerta que “estamos vendo surgir problemas que antes não existiam”.
PODE AGRAVAR DESIGUALDADES JÁ EXISTENTES
Por outro lado, a IA também pode agravar desigualdades já existentes, incluindo aquelas relacionadas ao contexto de cada paciente e à sua situação socioeconômica, bem como aumentar as diferenças entre os países com mais e menos recursos. Isso também poderia minar a confiança da população.
“No relatório, destacamos que os modelos de IA treinados com dados e contextos limitados podem gerar resultados tendenciosos relacionados ao sexo, à idade ou ao país onde o paciente vive, perpetuando desigualdades na área da saúde, se não forem validados em populações diferentes daquelas com as quais foram treinados”, destaca o acadêmico da RANME.
Segundo Martí-Bonmatí, o relatório é “deliberadamente equilibrado”: ele não afirma que a IA tenha mais vantagens do que desvantagens em tese, mas sim que sua eficácia depende inteiramente de como cada sistema é desenvolvido, validado, implementado e regulamentado. Dito isso, há benefícios muito tangíveis, afirma ele.
“Para os radiologistas, a integração da IA no fluxo de trabalho de imagens pode reforçar a precisão diagnóstica, auxiliando na detecção de lesões, reduzindo erros e contribuindo para um atendimento mais eficiente e baseado em evidências, além de ajudar a priorizar a lista de tarefas, indicando os achados e os pacientes que requerem atenção urgente”, ressalta.
O relatório defende políticas europeias que garantam acesso equitativo a essas tecnologias, maior transparência — incluindo o impacto ambiental da IA — e uma participação ativa da sociedade. Somente assim, segundo os autores, será possível contribuir para os objetivos de um sistema de saúde universal e manter-se alinhado aos valores democráticos.
Sobre seu impacto ambiental, Ríos destaca que sua principal preocupação é o consumo de energia, já que os novos centros de dados estão chegando ao ponto de construir suas próprias usinas para se abastecerem de energia.
“E há outro aspecto que me parece importante: atualmente, a IA é, em muitos casos, barata demais. Acredito que chegará um momento em que isso se estabilizará e o preço de utilizar esses sistemas estará mais de acordo com o gasto energético real que eles acarretam. Isso também ajudará a nos tornarmos mais conscientes do custo de utilizar a IA”, conclui.
Esta notícia foi traduzida por um tradutor automático