MADRID 20 out. (Portaltic/EP) -
A Microsoft defendeu a necessidade de monitorar constantemente os agentes de inteligência artificial (IA) implantados nas empresas, devido ao acesso privilegiado que eles têm a dados, ferramentas e sistemas, bem como à sua natureza imprevisível. Isso levou a empresa a afirmar que “não se pode confiar nos modelos de ponta, independentemente de sua origem”.
A empresa de tecnologia se posicionou a favor da necessidade de desconfiar dos agentes de IA em um momento em que eles começam a ser amplamente implantados nas empresas e após os incidentes de segurança que vieram à tona desde este verão.
Ela garantiu que eles não são “inerentemente maliciosos”, mas que foram “treinados para obter resultados” com tudo o que isso implica: “Eles se adaptarão à medida que o contexto mudar, podem não se comportar como esperado e colaborarão e conspirarão com outros agentes para atingir seus objetivos, sem que seja necessário que sejam comprometidos”, explicou a vice-presidente executiva de Segurança da Microsoft, Hayete Gallot, em um comunicado.
A executiva também destacou que os agentes implantados nas empresas “costumam ter privilégios excessivos” que lhes dão acesso a dados, ferramentas e sistemas, sobre os quais tomam decisões e agem. Eles se tornaram “agentes com informações privilegiadas”, afirmou Gallot.
Isso a levou a afirmar que “não se pode confiar em modelos de ponta, independentemente de sua origem” e a destacar o programa de segurança apresentado em julho, o Project Perception, com o qual são estabelecidos “agentes guardiões” que monitoram continuamente os agentes implantados.
Conforme explicou, “o Project Perception permite a supervisão em tempo real, proporcionando rastreabilidade para que os profissionais analisem o que ocorreu, compreendam a origem do risco e apliquem os critérios necessários para atualizar seu sistema de segurança”,
Trata-se de um sistema que utiliza agentes especializados que trabalham de forma coordenada para identificar falhas nos sistemas e no software, com a capacidade de “raciocinar, priorizar e agir na velocidade de uma máquina” e de aprender continuamente.
O trabalho desses agentes é realizado por meio de uma estratégia multimodelo, na qual é aplicado o modelo mais adequado a cada tarefa, incluindo o próprio modelo de segurança MAI-Cyber-1, para trabalhos restritos ao gerenciamento de vulnerabilidades de software.
Esta notícia foi traduzida por um tradutor automático