Andrej Sokolow/dpa - Arquivo
MADRID 28 out. (Portaltic/EP) -
Uma startup de segurança cibernética fundada por ex-membros do recém-extinto Departamento de Eficiência do Governo (DOGE) informou que conseguiu acessar os sistemas internos da Anthropic utilizando agentes de Inteligência Artificial (IA).
A startup de segurança cibernética Cathedral notificou a Anthropic de que seus agentes de IA conseguiram encontrar uma maneira de invadir os sistemas internos graças a vulnerabilidades em softwares corporativos de terceiros dedicados a tarefas administrativas e de vendas, de acordo com um relatório da empresa revisado pelo The Washington Post.
Esse acesso não autorizado ocorreu quando os agentes estavam em execução há menos de doze horas, e entre as informações às quais tiveram acesso constam desde transcrições de reuniões e salários até ofertas de emprego e mensagens do Slack, a plataforma de comunicação normalmente utilizada nas empresas.
A Anthropic confirmou em declarações ao veículo de imprensa citado que, embora os pesquisadores tenham conseguido acessar um conjunto limitado de informações internas relacionadas apenas aos sistemas de TI, vendas e recursos humanos, as conversas dos usuários com o Claude, o código-fonte e os pesos dos modelos de IA permaneceram a salvo.
“Nosso monitoramento detectou parte da atividade da Cathedral antes mesmo de sermos notificados, e bloqueamos seu acesso ainda naquele mesmo dia”, afirmou o laboratório de IA, para em seguida ressaltar que não há “evidência de que alguém tenha explorado essas vulnerabilidades além da Cathedral”, além de esclarecer que a startup exagerou “as supostas implicações para a segurança nacional” de suas descobertas.
O diretor de segurança da informação da startup de programação com IA Cognition e ex-diretor do Observatório da Internet de Stanford no Centro de Ciberpolítica da universidade, Alex Stamos, destacou que o risco de conectar aplicativos de terceiros aos sistemas das empresas já está se tornando um “enorme problema para todos”.
Além disso, no relatório da Cathedral, pode-se ler que “o fato de que vulnerabilidades em softwares empresariais comuns possam comprometer a infraestrutura até mesmo das organizações mais avançadas deve servir de alerta para todas as empresas dos Estados Unidos”.
Esta notícia foi traduzida por um tradutor automático