MADRI 7 ago. (Portaltic/EP) -
Basta um convite para que os criminosos cibernéticos assumam o controle do Gemini e invadam os dispositivos conectados em uma rede doméstica, em um tipo de ataque conhecido como 'promptware'.
O promptware aproveita a integração de grandes modelos de linguagem (LLMs) em aplicativos para introduzir prompts maliciosos que podem comprometer os assistentes de inteligência artificial dentro deles.
O risco para os usuários é real, conforme demonstrado por três pesquisadores da Universidade de Tel Aviv (Israel), Ben Nassi, Stav Cohen e Or Yair. Em seu trabalho, eles usaram ataques de promptware direcionados ao assistente Gemini do Google para obter acesso à sua arquitetura Workspace e manipular dispositivos domésticos inteligentes ou extrair informações de e-mails.
A variante de promptware que eles usaram permite que prompts indiretos - maliciosos - sejam apresentados ao Gemini por meio de e-mails, convites de calendário ou documentos compartilhados.
Por exemplo, os criminosos cibernéticos enviam um convite à vítima para seu e-mail do Gmail ou do Calendário e, quando a vítima solicita informações sobre o e-mail ao Gemini, o prompt malicioso é acionado e compromete o assistente.
Isso abre a porta para a manipulação dos serviços e dispositivos que a vítima usa com o Gemini, facilitando o controle do termostato, a iluminação da casa ou o acesso ao e-mail, por exemplo.
Isso permite que os criminosos cibernéticos desliguem a luz, liguem o aquecimento, transmitam vídeos sem que a vítima perceba, excluam eventos do calendário, extraiam dados do e-mail, localizem geograficamente a vítima e até mesmo abram uma janela.
Esse tipo de ataque afeta o Gemini no aplicativo móvel, na Web e no Google Assistant. De acordo com os pesquisadores, 73% das ameaças analisadas em sua pesquisa representam um risco altamente crítico.
Conforme relatam, eles alertaram o Google sobre a ameaça em fevereiro e, nesse período, a empresa de tecnologia implementou "defesas em várias camadas" para mitigar os problemas de segurança identificados.
Esta notícia foi traduzida por um tradutor automático