MADRID 14 jul. (Portaltic/EP) -
O diretor executivo da Microsoft, Satya Nadella, alertou as empresas que utilizam modelos de inteligência artificial (IA) sobre a necessidade de criar seus próprios ambientes de aprendizado na nuvem, para que seus dados continuem sendo de sua propriedade e não acabem nas mãos das empresas proprietárias desses serviços, que, no fim das contas, podem aprender com eles e utilizá-los.
Nadella abordou o que chamou de “o paradoxo da informação inversa”, ou seja, a ideia de que, na era da inteligência artificial, o comprador dessa tecnologia “corre o risco de abrir mão do conhecimento apenas para poder utilizar o que comprou”, conforme relata em uma publicação em seu blog pessoal.
Com isso, o executivo se refere ao fato de que o usuário de um modelo de inteligência artificial paga para utilizar essa ferramenta, mas faz um segundo pagamento com as informações que fornece para obter respostas. Essas informações ficam na infraestrutura do provedor de IA, que pode acessá-las por meio do processo de correção (destilação), com o qual os modelos são aprimorados.
Em termos mais simples, uma empresa que contrate o uso, por exemplo, do ChatGPT ou do Claude está pagando para acessar a infraestrutura da OpenAI e da Anthropic, respectivamente. E, para tirar proveito disso, precisa inserir na IA informações especializadas da organização.
Quanto mais informações forem inseridas, mais útil a ferramenta será para a empresa, já que ela terá aprendido com seus processos. Mas é justamente isso que coloca o usuário da IA em desvantagem, porque, como afirma Nadella, “ao consumir inteligência, você a cria”.
Essas informações fornecidas pela empresa não ficam no limbo, mas permanecem na infraestrutura da empresa de IA, e os proprietários dessa tecnologia aprendem cada vez mais com seus clientes por meio da destilação — o processo de extrair conhecimento dos resultados oferecidos pelos modelos.
“É o tipo de conhecimento que um concorrente jamais poderia comprar e que se filtra de forma quase imperceptível: traço a traço, correção a correção, avaliação a avaliação”, destaca o diretor executivo da Microsoft.
Além disso, ele ressalta que os fornecedores posteriormente impõem “condições restritivas à extração de dados”, o que dificulta ou impede que os usuários tenham acesso à inteligência criada a partir de seus dados.
Diante dessa situação, o executivo considera que as empresas devem exigir “o direito de utilizar os resultados dos modelos para ajustar e/ou treinar seus próprios modelos” e vê a nuvem como a infraestrutura na qual as empresas podem criar seus próprios ambientes de aprendizado, para treinar seus próprios modelos e sob critérios de privacidade.
Embora não mencione isso em sua publicação, Nadella é o diretor executivo da Microsoft, e uma parte importante dos negócios dessa empresa de tecnologia é a nuvem com o Azure. Isso torna ainda mais significativa essa mudança de visão sobre o uso dos modelos de IA e das informações, e reforça seu argumento de que “uma empresa deveria poder utilizar um modelo sem abrir mão do conhecimento que o torna único”.
Esta notícia foi traduzida por um tradutor automático