MADRI, 14 fev. (Portaltic/EP) -
Uma pesquisa realizada pelo provedor de solues biométricas iProov determinou que apenas 0,1% dos usuários so capazes de distinguir com preciso um deepfake gerado por IA de um conteúdo real, sendo os vídeos o conteúdo mais difícil de detectar, ao contrário das imagens.
Deepfakes so vídeos manipulados por IA, usados para induzir os usuários a acreditar que esto assistindo a uma determinada pessoa fazendo declaraes ou aes irreais, trocando rostos por imagens e modificando a voz.
Embora essa tecnologia fosse adequada apenas para desenvolvedores há alguns anos, agora ela está disponível para qualquer pessoa, graas aos avanos nas tecnologias de clonagem de voz e sincronizao labial de código aberto. Como resultado, é possível criar a voz de uma pessoa a partir de uma amostra de áudio de apenas alguns segundos.
Essa tecnologia cada vez mais popular e sofisticada representa "uma ameaa avassaladora no cenário digital atual" e evoluiu significativamente nos últimos 12 meses, de acordo com a iProov. De acordo com seu Relatório de Inteligncia sobre Ameaas de 2024, o deepfake aumentou 704% apenas na troca de rostos.
Dessa forma, o deepfake é capaz de enganar a maioria dos usuários, a ponto de apenas 0,1% dos usuários conseguirem distinguir com preciso o conteúdo real do conteúdo falso gerado pela tecnologia, de acordo com um relatório recente da empresa.
O provedor de solues de verificao de identidade biométrica pesquisou 2.000 usuários no Reino Unido e nos EUA e descobriu que apenas essa porcentagem identificou corretamente os detalhes que determinam que um conteúdo é gerado por IA.
"Em situaes do mundo real, em que as pessoas so menos conscientes, a vulnerabilidade a deepfakes provavelmente será ainda maior", disseram os especialistas em seu site, onde explicaram as principais concluses de seu estudo.
Eles deduziram que as geraes mais velhas so mais vulneráveis a deepfakes, sendo que 30% dos entrevistados com idade entre 55 e 64 anos e 39% dos entrevistados com 65 anos ou mais nunca ouviram falar da tecnologia. Isso destaca "uma lacuna de conhecimento significativa e maior suscetibilidade a essa ameaa emergente nessa faixa etária", disse o iProov.
Sobre o formato do deepfake, a empresa observou que os vídeos eram mais difíceis de detectar do que as imagens, com 36% menos probabilidade de os participantes identificarem corretamente um vídeo falso em comparao com uma fotografia.
Com relao a essa vulnerabilidade, a empresa acredita que há "sérias preocupaes" sobre a possibilidade de fraude baseada em vídeo, como falsificao de identidade em chamadas com vídeo ou em cenários em que o vídeo é usado para verificar a identidade.
A iProov também observou que o excesso de confiana é generalizado, com mais de 60% dos entrevistados dizendo que sabem reconhecer o conteúdo gerado por IA. Isso é especialmente verdadeiro entre os jovens adultos, com idades entre 18 e 34 anos.
A mídia social desempenha um papel importante nisso, com os servios Meta (49%) e TikTok (47%) da ByteDance sendo as plataformas em que as falsificaes profundas so encontradas com mais frequncia. Isso levou a uma menor confiana na mídia e nas informaes on-line, já que 49% dos usuários confiam menos nas redes sociais depois de tomar conhecimento dessa técnica fraudulenta.
IMPULSIONADOR DA DESINFORMAO
Outra concluso da pesquisa é que as deepfakes esto gerando preocupao e desconfiana generalizadas, com trs em cada quatro pessoas - ou seja, 74% dos entrevistados - preocupadas com o impacto social das deepfakes. As notícias falsas e a desinformao também so a principal preocupao de 68% das pessoas.
Apesar de tudo isso, 29% no tomam nenhuma atitude quando se deparam com uma suspeita de deepfake, porque 48% dizem que no sabem como denunciar esses golpes, enquanto um quarto dos usuários no se importa se virem uma dessas fraudes e, consequentemente, no tomam nenhuma atitude para denunciá-la.
A análise também argumenta que a maioria dos consumidores no verifica ativamente a autenticidade das informaes on-line, o que aumenta sua vulnerabilidade a deepfakes. Dessa forma, apenas 11% dos usuários analisam criticamente a fonte e o contexto das informaes que recebem para determinar se é um vídeo ou uma imagem gerada por IA.
Por fim, o iProov disse que, para combater essa ameaa crescente, as organizaes devem adotar solues que empreguem tecnologia biométrica, capaz de verificar se é uma pessoa que está tentando realizar uma ao e se é a pessoa certa, e no outra pessoa que está fingindo ser ela.
Esta notícia foi traduzida por um tradutor automático