MADRID 16 out. (Portaltic/EP) -
Uma frota de agentes de inteligência artificial (IA) que estava sendo avaliada na nuvem da Tencent tentou extrair dados do aplicativo de mapas Amap, de propriedade da Alibaba.
Pesquisadores da Tencent testaram as capacidades de navegação na internet e de resposta a perguntas de modelos de IA de terceiros durante testes em sua nuvem, nos quais os modelos deveriam responder a perguntas cotidianas, como, por exemplo, identificar a entrada mais movimentada do zoológico de Chengdu.
Para essas avaliações, os agentes utilizaram o aplicativo de mapas Amap, um serviço semelhante ao Google Maps, mas voltado para o mercado chinês e desenvolvido pela Alibaba, com cerca de um bilhão de usuários. Em determinado momento, os agentes se desviaram das diretrizes do teste e começaram a procurar maneiras de acessar informações no Amap que não estavam disponíveis publicamente.
Segundo explicam os pesquisadores de segurança cibernética do grupo Swarmcham, os agentes utilizaram sua habilidade de navegar na internet para localizar chaves e códigos de segurança previamente vazados que lhes permitissem acessar o Amap, mas as proteções “antibot” do serviço conseguiram repelir suas tentativas.
A Swarmcham afirma que os agentes realizaram mais de 2.600 tentativas de acesso ao Amap, entre 28 de setembro e 8 de outubro, mas o fizeram de forma individual — por isso são chamados de “frota” — e não como um enxame, ao contrário de outros ataques já conhecidos, como o do Hugging Face, no qual os agentes de IA baseados nos modelos da OpenAI agiram de maneira coordenada.
“Os resultados de nossa pesquisa demonstram a dificuldade de alinhar um modelo”, já que eles podem “se desviar espontaneamente do roteiro” em tarefas simples, como alertaram os pesquisadores da Swarmcham. “Gerenciar um grande número de agentes é uma proeza da engenharia e um problema emergente no que diz respeito ao alinhamento de modelos”, acrescentam.
Esta notícia foi traduzida por um tradutor automático