MADRI, 14 fev. (Portaltic/EP) -
Uma pesquisa realizada pelo provedor de soluções biométricas iProov determinou que apenas 0,1% dos usuários são capazes de distinguir com precisão um deepfake gerado por IA de um conteúdo real, sendo os vídeos o conteúdo mais difícil de detectar, ao contrário das imagens.
Deepfakes são vídeos manipulados por IA, usados para induzir os usuários a acreditar que estão assistindo a uma determinada pessoa fazendo declarações ou ações irreais, trocando rostos por imagens e modificando a voz.
Embora essa tecnologia fosse adequada apenas para desenvolvedores há alguns anos, agora ela está disponível para qualquer pessoa, graças aos avanços nas tecnologias de clonagem de voz e sincronização labial de código aberto. Como resultado, é possível criar a voz de uma pessoa a partir de uma amostra de áudio de apenas alguns segundos.
Essa tecnologia cada vez mais popular e sofisticada representa "uma ameaça avassaladora no cenário digital atual" e evoluiu significativamente nos últimos 12 meses, de acordo com a iProov. De acordo com seu Relatório de Inteligência sobre Ameaças de 2024, o deepfake aumentou 704% apenas na troca de rostos.
Dessa forma, o deepfake é capaz de enganar a maioria dos usuários, a ponto de apenas 0,1% dos usuários conseguirem distinguir com precisão o conteúdo real do conteúdo falso gerado pela tecnologia, de acordo com um relatório recente da empresa.
O provedor de soluções de verificação de identidade biométrica pesquisou 2.000 usuários no Reino Unido e nos EUA e descobriu que apenas essa porcentagem identificou corretamente os detalhes que determinam que um conteúdo é gerado por IA.
"Em situações do mundo real, em que as pessoas são menos conscientes, a vulnerabilidade a deepfakes provavelmente será ainda maior", disseram os especialistas em seu site, onde explicaram as principais conclusões de seu estudo.
Eles deduziram que as gerações mais velhas são mais vulneráveis a deepfakes, sendo que 30% dos entrevistados com idade entre 55 e 64 anos e 39% dos entrevistados com 65 anos ou mais nunca ouviram falar da tecnologia. Isso destaca "uma lacuna de conhecimento significativa e maior suscetibilidade a essa ameaça emergente nessa faixa etária", disse o iProov.
Sobre o formato do deepfake, a empresa observou que os vídeos eram mais difíceis de detectar do que as imagens, com 36% menos probabilidade de os participantes identificarem corretamente um vídeo falso em comparação com uma fotografia.
Com relação a essa vulnerabilidade, a empresa acredita que há "sérias preocupações" sobre a possibilidade de fraude baseada em vídeo, como falsificação de identidade em chamadas com vídeo ou em cenários em que o vídeo é usado para verificar a identidade.
A iProov também observou que o excesso de confiança é generalizado, com mais de 60% dos entrevistados dizendo que sabem reconhecer o conteúdo gerado por IA. Isso é especialmente verdadeiro entre os jovens adultos, com idades entre 18 e 34 anos.
A mídia social desempenha um papel importante nisso, com os serviços Meta (49%) e TikTok (47%) da ByteDance sendo as plataformas em que as falsificações profundas são encontradas com mais frequência. Isso levou a uma menor confiança na mídia e nas informações on-line, já que 49% dos usuários confiam menos nas redes sociais depois de tomar conhecimento dessa técnica fraudulenta.
IMPULSIONADOR DA DESINFORMAÇÃO
Outra conclusão da pesquisa é que as deepfakes estão gerando preocupação e desconfiança generalizadas, com três em cada quatro pessoas - ou seja, 74% dos entrevistados - preocupadas com o impacto social das deepfakes. As notícias falsas e a desinformação também são a principal preocupação de 68% das pessoas.
Apesar de tudo isso, 29% não tomam nenhuma atitude quando se deparam com uma suspeita de deepfake, porque 48% dizem que não sabem como denunciar esses golpes, enquanto um quarto dos usuários não se importa se virem uma dessas fraudes e, consequentemente, não tomam nenhuma atitude para denunciá-la.
A análise também argumenta que a maioria dos consumidores não verifica ativamente a autenticidade das informações on-line, o que aumenta sua vulnerabilidade a deepfakes. Dessa forma, apenas 11% dos usuários analisam criticamente a fonte e o contexto das informações que recebem para determinar se é um vídeo ou uma imagem gerada por IA.
Por fim, o iProov disse que, para combater essa ameaça crescente, as organizações devem adotar soluções que empreguem tecnologia biométrica, capaz de verificar se é uma pessoa que está tentando realizar uma ação e se é a pessoa certa, e não outra pessoa que está fingindo ser ela.
Esta notícia foi traduzida por um tradutor automático