MADRID 20 ago. (Portaltic/EP) -
As barreiras de segurança são as que impedem que os modelos de inteligência artificial (IA) facilitem ações prejudiciais, como o vazamento de dados dos usuários, algo que o Copilot acabou permitindo ao disponibilizar parâmetros que contornavam o consentimento.
Uma falha crítica presente no Copilot fez com que essa IA acabasse abrindo as portas para seu próprio “hack”, conforme descoberto pela empresa de segurança Varonis. A intenção era criar uma vulnerabilidade que facilitasse a extração de dados dos usuários quando estes clicassem em um link.
Essa intenção entrava em conflito com as medidas de segurança implementadas pela Microsoft no Copilot, que se recusava a atender à solicitação e informava que as solicitações relacionadas a informações confidenciais exigiam o consentimento explícito do usuário.
No entanto, na conversa que os pesquisadores mantiveram com o Copilot para perguntar sobre as medidas de segurança, a IA acabou revelando alguns parâmetros não documentados que permitiam contornar a exigência de consentimento, conforme relatado pela Ars Technica.
Lior Adar, pesquisador sênior da Varonis, disse à Ars Technica que “no início, o Copilot se recusava constantemente, mas cada recusa revelava detalhes técnicos sobre sua arquitetura interna” até que “finalmente, revelou parâmetros não documentados”.
Adar afirma que utilizou esses parâmetros para “configurar as instruções para a execução automática”, o que permitiu injetar uma solicitação diretamente no Copilot, que era ativada silenciosamente no momento em que a vítima clicava em uma URL maliciosa.
A Microsoft já corrigiu essa falha de segurança. “Atualizamos continuamente nossas medidas de segurança para reforçar nossa proteção contra técnicas semelhantes”, indicou em um comunicado enviado ao veículo de mídia citado.
Esta notícia foi traduzida por um tradutor automático