Philip Dulian/dpa - Arquivo
MADRID 8 jun. (Portaltic/EP) -
A OpenAI lançou o novo Modo de Bloqueio, já disponível na Espanha, que limita o acesso à internet e a serviços externos para reduzir o risco de ataques de injeção de 'prompts'.
O Modo de Bloqueio (Lockdown Mode) é uma nova opção de segurança que limita as ferramentas e os recursos dos produtos da OpenAI que podem se conectar a serviços externos ou à internet.
O objetivo é reduzir o vazamento de dados por ataques de injeção de 'prompts' (quando as instruções de texto são manipuladas para tentar enganar a IA e fazê-la ignorar suas regras originais), limitando as solicitações de rede de saída ao bloquear algumas das funções úteis do ChatGPT.
A OpenAI, em seu site, indica que esse novo modo de bloqueio não é voltado para todos os usuários, mas sim para organizações ou pessoas que costumam trabalhar com dados confidenciais e precisam da proteção necessária para limitar o risco de que esses dados sejam exfiltrados, ou seja, acabem sendo transferidos para um ambiente controlado pelo invasor.
O que esse modo faz é aplicar uma série de proteções no nível do modelo, do produto e do sistema. Isso inclui desde o isolamento de processos até proteções contra a exfiltração de dados baseadas em URL, ou supervisão e aplicação de políticas, bem como controles corporativos, como acesso baseado em funções e registros de auditoria.
Os criadores do ChatGPT alertam que o novo modo de proteção não impede que injeções de 'prompts' apareçam no conteúdo processado pelo ChatGPT. Entre esses casos está a possibilidade de que elas apareçam no conteúdo em cache de um site ou em um arquivo que o usuário tenha enviado.
Ou seja, não se trata de um escudo que elimina todos os ataques, mas o que ele faz é desativar aquelas ações ou funções que poderiam ser usadas para enganar a IA com um ataque de injeção de prompts.
A OpenAI indicou que, quando o Modo de Bloqueio está ativo, a navegação na web em tempo real, o suporte a imagens, a função de pesquisa profunda, o modo de agente, o Canvas e o download de arquivos são desativados. A empresa esclarece que isso não interfere na memória, no upload de arquivos, na capacidade de compartilhar uma conversa ou no uso dessas conversas para melhorar os modelos.
Esta nova atualização do ChatGPT chega às contas pessoais de todos os usuários, incluindo as versões gratuita, Go, Plus e Pro, bem como às contas do ChatGPT Business.
Faz parte de uma implementação global que está ocorrendo atualmente e que pode ser acessada nas configurações do aplicativo, onde se encontra o Modo de Bloqueio na seção de segurança.
Esta notícia foi traduzida por um tradutor automático