MADRID 11 jun. (Portaltic/EP) -
A Microsoft tomou a decisão de restringir aos seus funcionários o uso do Claude Fable 5, o primeiro modelo de inteligência artificial (IA) da classe Mythos a ser disponibilizado ao público em geral, devido à confusão gerada pela nova política de retenção de dados em sua equipe jurídica.
A Microsoft desativou temporariamente o Claude Fable 5 do seletor de modelos ao qual seus funcionários têm acesso na versão interna do GitHub Copilot, conforme informou Tom Warren, do The Verge, com base em fontes próximas à empresa de tecnologia, enquanto os demais modelos do Claude continuam disponíveis sob a política de Retenção Zero de Dados (ZDR).
O motivo está nas dúvidas que o tratamento de dados com a nova política aplicada pela Anthropic ao seu novo modelo Claude Fable 5 gerou no departamento jurídico da empresa de tecnologia.
Isso se deve, sobretudo, à importância que os dados de seus clientes têm no âmbito empresarial e às informações confidenciais que os funcionários poderiam compartilhar enquanto operam com o novo modelo da classe Mythos.
O Claude Fable 5 foi lançado nesta quarta-feira como o primeiro modelo da classe Mythos disponível para o público em geral e requer a retenção de dados para que os novos classificadores da Anthropic possam operar e impedir que sejam feitas consultas sobre determinados temas, como biologia e segurança cibernética.
A empresa de IA retém os 'prompts' e os resultados, e os elimina após 30 dias, embora possa armazená-los por até dois anos se for detectado que violaram a política de uso da Anthropic, conforme explica em seu site.
Essa medida é nova, sobretudo, para as contas corporativas (Enterprise) que tinham ambientes configurados com Retenção Zero de Dados (ZDR), bem como para aqueles que acessam por meio de plataformas na nuvem como AWS Bedrock, Google Cloud ou Microsoft Foundry; no entanto, para os usuários dos planos gratuitos, Pro e Max, os dados já eram armazenados anteriormente e continuam sendo armazenados agora.
A Anthropic explica que, embora o Claude Fable 5 compartilhe o mesmo modelo que o Claude Mythos 5, ele inclui restrições de segurança para que qualquer usuário possa utilizá-lo, embora sob medidas conservadoras que lhes permitam identificar padrões de uso indevido nesse tipo de modelo.
A Anthropic esclarece que detectar certas ameaças, como o “jailbreaking” do tipo “Best-of-N” (que envia centenas de variações leves de um “prompt” na esperança de que alguma funcione), requer “reter temporariamente as instruções e os resultados para que possam ser analisados em conjunto, em vez de um de cada vez".
De fato, as salvaguardas do modelo comercial Fable 5 não estão aplicadas no modelo Claude Mythos 5, anunciado pela Anthropic nesta quarta-feira, porque apenas um grupo muito limitado de organizações tem acesso a ele, organizações essas que estão testando a capacidade do Mythos 5 em disciplinas como a segurança cibernética.
Esta notícia foi traduzida por um tradutor automático