MADRID 12 jun. (Portaltic/EP) -
Uma vulnerabilidade crítica no Microsoft 365 Copilot foi capaz de facilitar a extração de informações confidenciais do chatbot automaticamente, sem que a vítima tenha que tomar qualquer ação, enviando um e-mail malicioso.
O Copilot da Microsoft é um chatbot que usa o conhecimento pré-existente de seu treinamento para responder às perguntas do usuário, mas também informações contextuais que ele recupera de fontes externas, como documentos.
Esse é um processo de otimização conhecido como geração aprimorada por recuperação (RAG), que permite que grandes modelos de linguagem forneçam resultados originais e mais precisos para responder melhor ao usuário.
No caso do Microsoft 365 Copilot, o chatbot usa o Microsoft Graph para recuperar todas as informações relevantes do ambiente organizacional do usuário, incluindo a caixa de entrada de e-mail, o armazenamento do OneDrive e o monitor de bate-papo do Teams, entre outros.
Embora seja normal que o usuário tenha acesso apenas aos seus arquivos, a integração do Copilot com o Graph "potencialmente o expõe a ameaças externas", que é exatamente o que acontece com o EchoLeak.
O EchoLeak é uma vulnerabilidade de inteligência artificial de clique zero identificada pela empresa de segurança Aim Security, que explora falhas de design no Copilot aschatbo RAG para permitir que um agente externo extraia informações sensíveis ao contexto, conforme explicado em seu blog oficial.
Para explorar essa vulnerabilidade, os pesquisadores enviaram um e-mail malicioso de grande extensão, com referências a "informações que estão fora do escopo do e-mail", que o Copilot recuperou quando perguntado sobre vários tópicos, facilitando assim seu roubo.
Esse ataque é, na verdade, uma cadeia de ataques, "o primeiro ataque de clique zero detectado em um produto de IA generativa amplamente usado que se baseia principalmente em uma vulnerabilidade de IA e não no comportamento específico do usuário", disse a Aim Security.
Embora essa vulnerabilidade seja considerada crítica pelos pesquisadores da Aim Security, é improvável que os usuários do Microsoft 365 Copilot sejam afetados por ela, devido às configurações padrão do próprio chatbot e porque as tags podem ser definidas para excluir e-mails externos.
Esta notícia foi traduzida por um tradutor automático