MADRI 27 ago. (Portaltic/EP) -
A Anthropic começou a testar um novo agente de inteligência artificial (IA) da Claude na forma de uma extensão para o Google Chrome, para que os usuários possam usar os recursos de IA do assistente diretamente no navegador, mantendo as barreiras de segurança.
A empresa compartilhou a importância crescente do uso da IA na experiência de navegação como "inevitável". No entanto, ela também enfatizou que essa prática apresenta certos desafios de segurança que "exigem proteções mais fortes".
Diante desse cenário, a Anthropic desenvolveu um agente na forma de uma extensão do Chrome, que foi lançada como um teste para permitir o uso dos recursos de IA da Claude diretamente no navegador do Google, de forma controlada e segura.
Essa extensão abordará os desafios de segurança apresentados pela IA nos navegadores, a fim de "evitar comportamentos indesejáveis", proteger melhor os usuários do Claude e compartilhar o conhecimento do teste com aqueles que desenvolverem um agente usando a API do navegador da empresa em um futuro próximo.
Especificamente, com a extensão do Claude no Chrome, os usuários poderão conversar por meio de um bate-papo que aparecerá em uma barra lateral e o assistente estará ciente do que é exibido na tela do navegador para lidar melhor com suas solicitações.
Ele também poderá concluir algumas tarefas em nome dos usuários. Por exemplo, ele pode preencher dados em formulários de compras de forma autônoma. A extensão também pode gerenciar calendários, agendar reuniões, redigir respostas de e-mail, lidar com relatórios de despesas ou testar novos recursos do site.
Como a empresa detalhou em uma declaração em seu blog, esse teste começou a ser realizado para um grupo de 1.000 assinantes do plano Max da Anthropic, embora uma lista de espera também tenha sido aberta para outros usuários interessados.
SEGURANÇA PARA NAVEGAÇÃO COM IA
A Anthropic também disse que expandirá gradualmente o acesso à medida que desenvolver medidas de segurança "mais robustas", pois ainda há "algumas vulnerabilidades a serem corrigidas" antes que o Claude para Chrome seja disponibilizado de forma geral.
Ele explicou que essas vulnerabilidades são baseadas em problemas que os usuários também enfrentam na navegação diária, como tentativas de phishing na caixa de entrada de e-mail.
No entanto, elas também se baseiam em ataques de injeção rápida, em que agentes mal-intencionados ocultam instruções em sites, e-mails ou documentos para induzir a IA a realizar ações prejudiciais sem o consentimento dos usuários.
Isso pode levar à exclusão de arquivos, roubo de dados ou transações financeiras, como a Anthropic constatou em seus testes.
Para evitar essas consequências maliciosas, a extensão do Claude inclui atenuações de permissão no nível do site, em que os usuários podem aceitar ou negar o acesso do Claude a determinados sites nas configurações.
Também estão incluídas as confirmações de ação, em que o assistente solicita ao usuário antes de executar ações de alto risco, como publicar, comprar ou compartilhar dados pessoais.
Esta notícia foi traduzida por um tradutor automático