MADRI 27 ago. (Portaltic/EP) -
O Anthropic relatou vários exemplos recentes do uso indevido de Claude, com seu assistente fornecendo "consultoria técnica e suporte operacional ativo" em ataques cibernéticos que, de outra forma, exigiriam uma equipe de operadores.
A empresa norte-americana alertou que o agente de IA se tornou uma "arma", alegando que os modelos de linguagem estão sendo usados para realizar ataques cibernéticos sofisticados em uma variedade de casos.
Nesse sentido, a Anthropic informou que desmantelou as operações de um criminoso cibernético que usou seu agente de criptografia, o Claude Code, para obter "consultoria técnica e suporte operacional ativo" e cometer roubo e extorsão de dados pessoais em larga escala, de acordo com seu relatório de Inteligência de Ameaças.
A empresa explicou que o agente usou a IA em um nível "sem precedentes" com a técnica de 'vibe hacking', que consiste em técnicas de manipulação psicológica que exploram as emoções ou percepções da vítima para comprometer sua segurança, como criar um senso de urgência ou pânico para que o usuário forneça seus dados.
O criminoso cibernético usou o Claude Code para automatizar o reconhecimento, coletar as credenciais da vítima e penetrar nas redes, enquanto o Claude era capaz de tomar decisões táticas e estratégicas, como decidir quais dados extrair e como formular demandas de extorsão psicologicamente direcionadas.
Da mesma forma, o assistente do Anthropic conseguiu analisar os dados financeiros extraídos para determinar os valores de resgate apropriados e gerou notas de resgate "visualmente alarmantes" que foram exibidas nos computadores das vítimas.
Em vez de criptografar os dados roubados com o ransomware tradicional, ele ameaçava expor os dados publicamente em uma tentativa de extorquir pagamentos de resgate, às vezes superiores a US$ 500.000 (cerca de 430.000 euros).
O agente visava pelo menos 17 organizações diferentes, incluindo instituições de saúde, serviços de emergência, instituições governamentais e religiosas.
A Anthropic espera que esses ataques se tornem mais comuns à medida que a criptografia assistida por IA reduz o conhecimento técnico necessário para o crime cibernético.
AGENTES NORTE-COREANOS OCUPAM EMPREGOS DE FORMA FRAUDULENTA EM EMPRESAS DE TECNOLOGIA DOS EUA.
Outro caso que a Anthropic detectou foi o de agentes norte-coreanos que usaram o Claude para obter e manter, de forma fraudulenta, empregos remotos em empresas de tecnologia da Fortune 500 dos EUA.
Esses agentes usaram os modelos do Claude para criar identidades falsas elaboradas com antecedentes profissionais convincentes, realizar avaliações técnicas e de codificação durante o processo de inscrição e entregar o trabalho técnico real depois de contratados, disse a empresa em seu relatório.
A Anthropic alegou que essa estratégia foi projetada para gerar lucros para o regime norte-coreano, desafiando as sanções internacionais. Trata-se de uma operação que começou antes da chegada dos grandes modelos de linguagem, e foi até mesmo denunciada pelo FBI.
VENDA DE RANSOMWARE GERADO POR IA COMO UM SERVIÇO
O terceiro caso descoberto pela Anthropic envolveu um criminoso cibernético que usou o Claude para desenvolver, comercializar e distribuir diversas variantes de ransomware, cada uma com recursos avançados de evasão, criptografia e anti-recuperação.
Esses pacotes de ransomware eram vendidos em fóruns da Internet para outros criminosos cibernéticos por preços que variavam de US$ 400 a US$ 1.200 (de '345 a '1.035).
O relatório observou que esse ator parece ter contado com a IA para desenvolver um malware funcional, que sem a ajuda de Claude não poderia ter implementado ou corrigido problemas relacionados aos principais componentes do malware.
Além disso, a empresa norte-americana também aborda outros usos maliciosos de seus modelos, incluindo uma tentativa de comprometer a infraestrutura de telecomunicações vietnamita e o uso de vários agentes de IA para cometer fraudes.
Dessa forma, o aumento de fraudes e crimes cibernéticos com base em IA é uma "preocupação especial" para a empresa, e ela planeja priorizar a pesquisa nessa área.
A Anthropic explicou que os abusos descobertos permitiram que a empresa atualizasse suas medidas de segurança preventivas, além de compartilhar os detalhes de suas descobertas com equipes de segurança externas.
Esta notícia foi traduzida por um tradutor automático