MADRID 8 out. (Portaltic/EP) -
As empresas estão entrando em uma nova fase de adoção da inteligência artificial (IA), na qual já não basta demonstrar o que essa tecnologia é capaz de fazer; agora, começam a exigir resultados concretos e a analisar quanto custa, de fato, cada tarefa executada pela IA, com foco no “token taming”, ou seja, em usar os tokens da maneira “mais eficiente possível”.
Foi o que compartilhou o vice-presidente sênior e responsável pela Celonis em Madri, Jorge Ferrer, em declarações à Europa Press, que destacou como o consumo de tokens deixou de ser uma questão puramente técnica para se tornar uma preocupação econômica para as empresas.
“Os diretores financeiros estão analisando minuciosamente os orçamentos destinados à IA e rejeitam a cultura do ‘tokenmaxxing’, caracterizada por um consumo desenfreado e custos exorbitantes”, avaliou Ferrer, ao mesmo tempo em que ressaltou que, atualmente a tendência é o ‘token taming’, que se baseia em “otimizar a implementação da IA para minimizar o consumo de tokens e maximizar os resultados”.
Trata-se de uma tendência relevante porque, à medida que as empresas estendem a IA a milhares de funcionários, processos e operações, questões como instruções excessivamente longas, consultas redundantes ou verificações contínuas podem multiplicar o trabalho da IA a ponto de gerar uma conta considerável.
Nesse contexto, a “austeridade de tokens e o controle de tokens” (token austerity e token taming) buscam otimizar a execução da IA corporativa. “Não se trata de usar menos tokens, mas de usá-los da maneira mais eficiente possível”, destacou Ferrer.
A IMPORTÂNCIA DO CONTEXTO OPERACIONAL PARA O ‘TOKEN TAMING’
Para alcançar essa eficiência, Ferrer destacou que a IA precisa entender “como o trabalho flui em uma organização”, pois conectar um modelo aos dados corporativos não é suficiente. É preciso compreender como esses dados se relacionam dentro dos processos, quais regras condicionam cada decisão, quais exceções podem ocorrer e qual é o objetivo operacional almejado.
Por exemplo, ao ser consultado sobre uma incidência relacionada a um pedido atrasado, para responder corretamente, o agente de IA não deve apenas conhecer o status do pedido, mas também compreender as dependências logísticas, a disponibilidade de estoque, as condições acordadas com o cliente, as políticas internas e as possíveis alternativas para resolver a incidência.
Caso contrário, o modelo precisa analisar mais informações, formular novas consultas, reconstruir a lógica de negócios e revisar suas próprias respostas, aumentando o consumo de tokens, os custos e o risco de erro.
Conforme detalhou Ferrer, “sem o contexto operacional de cada empresa, os agentes são obrigados a interpretar as informações genéricas que recebem e acabam fazendo suposições”, uma tarefa que acaba aumentando os custos.
No entanto, com o contexto operacional, a IA pode “delegar tarefas e decisões ao modelo adequado”. Ou seja, conforme esclareceu o executivo, ela pode atribuir etapas simples a modelos mais rápidos e menos onerosos e, da mesma forma, atribuir tarefas mais complexas a modelos que oferecem um nível mais elevado de raciocínio, “mesmo que também sejam mais caros”.
“Além disso, quando lhes é fornecido o contexto operacional adequado, os agentes podem utilizar uma única chamada determinística para chegar a uma resposta, em vez de uma sucessão de hipóteses probabilísticas que consomem tokens desnecessariamente”, acrescentou o executivo da Celonis.
Dessa forma, a chamada “austeridade de tokens” não consiste simplesmente em limitar o uso da IA, mas em utilizá-la de maneira mais disciplinada, previsível e alinhada aos resultados do negócio.
SOLUÇÕES COMO O CELONIS CONTEXT MODEL
Diante dessa problemática, soluções como o Celonis Context Model surgem como uma forma de permitir que as organizações passem de uma estratégia de IA empresarial baseada no “tokenmaxxing” para uma de “token taming”.
Como Ferrer destacou a esse respeito, a inteligência de processos e, especificamente, o Celonis Context Model, permitem que os agentes compreendam como o trabalho flui por uma organização e ajam de acordo para evitar que todas as tarefas utilizem um modelo de IA de ponta de alto custo.
“O agente pode encaminhar as tarefas simples para modelos que consomem poucos recursos, reservando o raciocínio de alto custo exclusivamente para aquelas decisões que realmente o exijam”, explicou ele.
Tudo isso ocorre em um momento em que os conselhos de administração exigem um retorno sobre o investimento em IA (RoAI). Por isso, a IA empresarial “não se limita mais à experimentação, mas se concentra em soluções que geram resultados empresariais reais”.
Segundo Ferrer, as empresas estão passando de “projetos-piloto ilimitados” para um controle orçamentário mais rigoroso, “abrindo caminho para que a economia unitária da IA evolua em torno de uma nova métrica-chave: a receita por token”.
É por tudo isso que as empresas recorrem cada vez mais a plataformas com recursos de orquestração e análise de agentes para “acompanhar os custos de execução e justificar os resultados empresariais em relação ao consumo de tokens”.
Esta notícia foi traduzida por um tradutor automático