MADRID 19 out. (Portaltic/EP) -
Em um momento em que a inteligência artificial (IA) gera situações de desconfiança em relação ao que é real e ao que não é, o Google lançou, no início de outubro, o SynthID Detector para todos os usuários — uma ferramenta com a qual qualquer pessoa pode verificar, de forma muito simples, se um conteúdo foi criado com essa tecnologia.
Atualmente, gerar imagens, vídeos, texto ou áudio está ao alcance de qualquer pessoa; basta ter acesso à internet e utilizar uma das inúmeras opções de modelos de IA disponíveis para tornar realidade praticamente qualquer conteúdo imaginável.
Justamente esse amplo acesso e os avanços nas capacidades dos modelos para a geração de conteúdo cada vez mais realista causaram uma situação de perda de confiança e veracidade, diante da saturação das redes sociais com conteúdo falso, falsificação de identidade e outros métodos de desinformação.
Para permitir que os usuários tenham controle sobre se o que estão vendo é real, o Google lançou sua ferramenta SynthID Detector em 2023 como um recurso para diferenciar e identificar imagens geradas por IA.
Inicialmente, ela foi disponibilizada para uso por profissionais da mídia; no entanto, agora qualquer pessoa pode verificar se uma imagem, um vídeo ou um clipe de áudio foi criado com IA, de forma muito simples e acessível, após ter sido aberta ao público em geral.
Com o acesso aberto a qualquer usuário, veja como as pessoas devem utilizar essa ferramenta para não deixar passar nenhum conteúdo gerado por IA.
COMO UTILIZAR O SYNTHID
É possível acessá-la basicamente de duas maneiras: pelo aplicativo da Gemini ou diretamente pela versão web da ferramenta, em synthid.com.
No caso do site synthid.com, basta clicar no ícone de anexar e selecionar o elemento (imagem, texto, áudio ou vídeo) que se deseja inspecionar. Também é possível arrastar o elemento diretamente para a página.
O SynthID analisa o conteúdo em segundo plano e, após alguns segundos, indica se detectou a assinatura invisível do SynthID no conteúdo e, portanto, se ele foi gerado ou modificado com tecnologia de IA.
O mesmo ocorre no aplicativo da Gemini. Nesse caso, é preciso anexar o conteúdo que se deseja analisar da mesma forma que no synthid.com, mas acompanhado de uma pergunta na caixa de contexto, como “Esta imagem foi gerada ou editada com IA?” ou “Este arquivo possui marca d’água de IA?”. São válidas até mesmo perguntas mais simples, como “Este vídeo é real?”.
Com isso, o Assistente do Google também analisará o conteúdo compartilhado com a tecnologia do SynthID e responderá informando se detectou ou não a assinatura invisível no conteúdo.
COMO FUNCIONA A TECNOLOGIA DO DETECTOR SYNTHID
Para entender como se determina se um conteúdo foi gerado ou modificado por IA, é preciso levar em conta como funciona a tecnologia SynthID.
Especificamente, trata-se de um sistema que integra marcas d’água digitais invisíveis nos pixels das imagens ou nos componentes de texto ou áudio do conteúdo gerado por IA. Assim, trata-se de uma marca d’água imperceptível a olho nu, mas que, com o programa de computador adequado, fica visível para identificação.
Isso não ocorre apenas ao gerar conteúdo utilizando a IA do Google, mas também ao recorrer à IA de parceiros do setor, como OpenAI, Nvidia, Kakao e, em breve, a IA da Apple.
Da mesma forma, no processo de identificação também são utilizadas credenciais de conteúdo, conforme especificado pelo Google na página de suporte. Trata-se de uma tecnologia que funciona como um passaporte digital para o conteúdo, documentando a origem de, por exemplo, uma imagem, e seu histórico digital de por onde ela passou ou para que foi utilizada.
Vale ressaltar que as credenciais de conteúdo se aplicam tanto a imagens, áudios e textos gerados por IA quanto àqueles criados organicamente por humanos, uma vez que fornecem informações sobre a origem e o histórico.
COMO INTERPRETAR OS RESULTADOS
O Google esclarece que, se for detectada uma marca d’água do SynthID no conteúdo compartilhado, isso significa que a imagem ou o vídeo foram criados “total ou parcialmente” com modelos de IA.
No caso dos vídeos, será indicado em quais partes foi detectada uma marca d’água do SynthID. Além disso, é importante levar em conta que a marca d’água continua aparecendo mesmo que o conteúdo tenha sido modificado posteriormente para impedi-la.
Por outro lado, se nenhuma marca d’água SynthID for detectada, isso significa que a imagem ou o vídeo testados não foram criados com a IA do Google ou de empresas parceiras, embora possam ter sido criados com outros sistemas de IA.
Além disso, em alguns casos, o SynthID não consegue garantir se uma imagem ou vídeo foi criado ou editado com a IA do Google. Isso se deve, principalmente, à falta de detalhes suficientes na imagem para detectar uma marca d’água. Por exemplo, em uma imagem abstrata ou com conteúdo muito simples.
Da mesma forma, é provável que a alteração na marca d’água seja muito pequena e, portanto, a ferramenta não a reconheça como tal.
CONDIÇÕES E LIMITAÇÕES DESTA FERRAMENTA
Apesar da facilidade de uso, há alguns fatores a serem considerados ao utilizar esta ferramenta, como o limite na quantidade de arquivos que podem ser verificados, conforme esclarece o Google.
Por exemplo, ela suporta um tamanho máximo de 100 MB por arquivo para verificar se a IA foi utilizada. Da mesma forma, os vídeos podem ter duração máxima de 90 segundos e o áudio, de uma hora.
Portanto, se os usuários excederem esses limites, a ferramenta não poderá analisar o conteúdo e apresentará problemas. Além disso, para verificar qualquer imagem ou vídeo, é necessário estar conectado com sua conta do Google; portanto, é preciso ter uma.
Além disso, a ferramenta do Google não é infalível, já que não consegue identificar conteúdos gerados por IA que não incluam suas próprias marcas d’água digitais. Embora outras empresas do setor tenham aderido a essa iniciativa, como a Nvidia ou a OpenAI, outras, como a Meta ou a Amazon, não adotaram esse sistema.
OUTRAS FORMAS DE IDENTIFICAR IA
Vale lembrar que existem outras formas de identificar conteúdo gerado por IA, além do SynthID. No caso da Meta, a empresa aposta em uma tecnologia própria que adiciona etiquetas visíveis ao conteúdo gerado por IA com o Meta AI. Essas etiquetas aparecem na parte superior das publicações ou ao lado do nome do usuário nas redes sociais.
Para os vídeos, a Meta também conta com o Video Seal, uma ferramenta de marca d’água para ajudar a identificar vídeos gerados por IA. Além disso, tudo isso pode ser verificado por meio de sua ferramenta de detecção na web disponível.
A Apple está trabalhando em seu próprio recurso para diferenciar imagens geradas por IA das reais capturadas pela câmera de um iPhone, com o Apple Reference Image. Por sua vez, a OpenAI dispõe de um site para verificar se os conteúdos compartilhados foram gerados por seus modelos de IA.
Além de tudo isso, diversas empresas, como Adobe, Google, Intel, Microsoft, Meta, OpenAI, Sony, Truepic e Amazon, estão associadas ao padrão da Coalizão para a Proveniência e Autenticidade do Conteúdo (C2PA), um projeto da Joint Development Foundation que permite que editores, empresas e criadores de conteúdo incorporem metadados em seus materiais visuais e de áudio para verificar sua origem e as informações relacionadas.
Esta notícia foi traduzida por um tradutor automático