MADRID 4 nov. (Portaltic/EP) -
A Anthropic está trabalhando em um sistema de código aberto capaz de verificar o modelo de Inteligência Artificial (IA) utilizado para gerar uma resposta, com o objetivo de ajudar avaliadores independentes e clientes a garantir que os “tokens” utilizados sejam provenientes do modelo pelo qual pagaram ou que estão avaliando.
O laboratório de IA divulgou os detalhes do novo sistema, chamado FlashProve, que se baseia no que denomina “inferência demonstrável” — uma prova criptográfica que indica que uma resposta foi gerada por um determinado modelo de IA.
“Quando um usuário envia uma consulta a um modelo de IA, hoje não há como saber com certeza se o modelo selecionado foi o que gerou a resposta”, afirma a Anthropic, ressaltando em seguida que, na maioria dos casos, “isso não é motivo de preocupação”, embora em alguns casos seja de grande ajuda.
“Por exemplo, avaliadores independentes que testam os modelos de IA antes e depois de sua implantação precisam saber que o modelo que estão testando é o modelo que foi utilizado. Os clientes que utilizam um modelo por meio de um serviço de roteamento de terceiros querem ter certeza de que os ‘tokens’ provêm do modelo pelo qual pagaram”, ressalta a empresa de tecnologia.
“O objetivo da ‘inferência demonstrável’ é permitir que um usuário com recursos computacionais limitados e sem informações sobre os pesos possa verificar se uma resposta veio do modelo solicitado”, acrescenta a Anthropic, ressaltando que, como a maioria dos modelos de ponta possui pesos privados, é complicado para um usuário ou empresa acessá-los para verificar sua origem.
Sobre o FlashProve, explica que se trata da implementação da inferência demonstrável por meio de um objeto criptográfico chamado “zero-knowledge succinct argument” (argumento sucinto de conhecimento zero), que se baseia no envio, por parte do provedor do modelo, além da resposta à consulta, de uma prova curta que o usuário pode verificar rapidamente e que não revela os pesos do modelo.
A nova ferramenta do laboratório de IA é um protótipo de código aberto para pesquisa que gera provas criptográficas com uma única placa de vídeo (GPU H100) a uma taxa de 110 “tokens” por segundo. A prova digital ou criptográfica ocupa 19 MB por cada pacote de 1.024 “tokens”, o que, além de facilitar seu envio pela internet, torna fácil verificá-la em um computador convencional em segundos, inclusive de forma local.
Por fim, a Anthropic acredita “que esse avanço tem implicações significativas para a segurança, o ritmo de desenvolvimento da IA, a garantia de integridade para os clientes de IA, a disponibilização de ferramentas para auditores e reguladores, entre outros aspectos”.
Esta notícia foi traduzida por um tradutor automático