Hannes P Albert/Dpa - Arquivo
MADRID 12 fev. (Portaltic/ EP) -
O chatbot da OpenAI, ChatGPT, alimentado por Inteligência Artificial (IA), tem um consumo de energia de aproximadamente 0,3 watt-hora para consultas regulares, um valor menor do que a energia consumida por uma lâmpada LED ou um laptop em casa, contradizendo as suposições anteriores de alto consumo do chatbot.
A IA é uma tecnologia que exige grandes quantidades de recursos energéticos, tanto para treinamento quanto para uso, e quanto mais avançada ela for, mais recursos serão necessários. Portanto, a eficiência energética tornou-se uma preocupação importante para as empresas de IA.
Essa preocupação se materializou em serviços como o ChatGPT da OpenAI. Assim, de acordo com o Instituto de Engenharia da Espanha (IIE), para treinar o modelo de linguagem GPT-3, a OpenAI usou até 78.437 kWh de eletricidade, um número comparável ao consumo de energia de uma residência média na Espanha durante 23 anos.
Posteriormente, com o advento do modelo GPT-4, organizações como a Agência Internacional de Energia apontaram números como o fato de o ChatGPT consumir cerca de 3 watts-hora para responder a uma consulta, o que se traduz em um gasto de energia 10 vezes maior em comparação com uma pesquisa no Google.
Agora, um novo estudo da organização sem fins lucrativos EpochAI forneceu uma nova estimativa do custo de energia do ChatGPT, detalhando que ele consome aproximadamente 0,3 watt-hora para consultas regulares, o que é dez vezes menos do que se pensava anteriormente.
De acordo com o analista de dados da EpochAI, Joshua You, os dados fornecidos nos anos anteriores eram uma "superestimativa" porque, como eles descobriram agora, a consulta média do ChatGPT consome menos eletricidade do que muitos aparelhos domésticos, como uma lâmpada LED ou um laptop "em alguns minutos".
Você também apontou que o consumo de energia desse serviço "não é grande coisa" em comparação com o uso de aquecimento ou resfriamento doméstico, bem como em comparação com o consumo de energia ao dirigir um carro.
De acordo com isso, o relatório da EpochAI também afirma que, mesmo para um usuário que usa muito o chatbot, o custo de energia do ChatPGT é "uma pequena fração do consumo total de eletricidade de um residente de um país desenvolvido".
Na verdade, You disse que essa estimativa de 0,3 watt-hora é "relativamente pessimista", pois a maioria das consultas do ChatGPT é, na verdade, "mais econômica". Esse é o caso, por exemplo, de solicitar informações sobre um monumento ou recomendações para uma receita culinária, que não exigem um alto nível de esforço.
Para realizar essa nova pesquisa, eles se basearam no consumo do ChatGPT alimentado pelo modelo GPT-4o, o que destaca como o uso de modelos e hardware "mais eficientes", em comparação com os usados anteriormente, pode alcançar um consumo de energia mais moderado.
"O motivo mais importante pelo qual nossa estimativa difere é que usamos uma suposição mais realista para a quantidade de tokens de saída no uso típico do chatbot", disse You, observando que eles também basearam sua estimativa em um chip "mais novo e mais eficiente" usando a GPU Nvidia H100 em vez da A100, e um modelo com "alguns parâmetros ativos a menos".
Eles também basearam suas estimativas de consumo de energia em dados fornecidos pela OpenAI, que afirma que um token equivale a aproximadamente 0,75 palavras e que a geração de um token equivale a 2 FLOPs.
Portanto, levando em conta a potência da GPU Nvidia H100 e seu consumo de energia, que é de 1500 W, embora haja um fator de utilização de energia de 70%, o resultado indica que o ChatGPT usa aproximadamente 0,3 watt-hora de energia por consulta.
O CONSUMO VARIA DE ACORDO COM O CASO DE USO
No entanto, a EpochAI destacou que é preciso observar que o consumo de energia do uso dessa IA varia de acordo com o caso de uso. Ou seja, consultas com comprimentos de entrada ou saída mais longos, por exemplo, ao usar modelos de raciocínio ou solicitar que o chatbot analise documentos pesados, podem consumir "substancialmente" mais energia do que 0,3 watt-hora.
O mesmo acontece quando se leva em conta o consumo das empresas, neste caso a OpenAI, para treinamento e inferência de modelos futuros, que "podem consumir muito mais energia do que usar o ChatGPT atualmente".
Por exemplo, ele compartilhou que os novos modelos de raciocínio o1, o3 e o3-mini recentemente introduzidos pela OpenAI provavelmente exigirão mais energia. O mesmo vale para o novo recurso Deep Research da OpenAI, um agente de IA que usa o raciocínio para sintetizar grandes quantidades de informações e executar tarefas de pesquisa.
Em relação a esse último, You qualificou que "certamente é muito mais intensivo em termos de computação do que uma simples consulta ao ChatGPT", embora, por enquanto, esteja limitado a usuários inscritos no ChatGPT Pro, o que reduz seu uso.
Portanto, embora os dados do estudo mostrem que o uso do ChatGPT não consome tanta energia quanto estimado anteriormente, os custos de energia da IA podem continuar a ser altos à medida que a tecnologia avança em inovação.
"A IA se tornará mais avançada, o treinamento provavelmente exigirá muito mais energia, e essa IA futura poderá ser usada com muito mais intensidade, lidando com muito mais tarefas, e tarefas mais complexas, do que a forma como as pessoas usam o ChatGPT hoje", disse You.
Esta notícia foi traduzida por um tradutor automático