Kobe Li / Zuma Press / Europa Press
MADRID 16 set. (Portaltic/EP) -
As 'startups' Far Labs e Evolving Edge estão propondo um novo tipo de modelo de negócios que visa aproveitar o poder de processamento excedente de milhares de computadores de mesa locais em todo o mundo, alugando-o para empresas de Inteligência Artificial (IA) para fins de inferência, como uma alternativa distribuída aos centros de dados.
Esse modelo de negócios está surgindo como consequência direta das demandas dos centros de dados que, além de serem utilizados por sua vasta capacidade de processamento para o treinamento de modelos de IA, também são empregados para a inferência, ou seja, a utilização do modelo “LLM” já treinado para responder às consultas comuns feitas no ChatGPT, Claude, Gemini e outros “chatbots”, conforme relata a IEEE Spectrum.
Ou seja, “startups” como a Far Labs, com sede em Abu Dabi, e a Evolving Edge, em Austin (Texas), pretendem se tornar o “Airbnb” da inferência para aliviar a demanda computacional dos centros de dados por meio de uma rede distribuída globalmente, que ainda teria o atrativo de oferecer benefícios aos usuários que alugarem seus laptops, GPUs ou computadores de mesa.
Vale ressaltar que o “boom” da IA está levando à construção de enormes centros de dados que costumam acabar prejudicando as comunidades locais, elevando o preço da eletricidade, esgotando as fontes de água e causando danos e ruído no entorno em que são construídos.
É aí que entram em cena essas plataformas, que se concentram em modelos pequenos e de código aberto e se limitam à inferência, e não ao treinamento, que continua exigindo milhares de GPUs sincronizadas e fisicamente contíguas em um centro de dados, pois a latência entre equipamentos separados torna isso inviável.
Elas se baseiam em canalizar tarefas reais de inferência dos clientes entre os computadores de pessoas físicas e garantem a segurança do anfitrião (o computador que é alugado) isolando cada tarefa em um ambiente fechado (“sandbox”), com comunicação criptografada e limites rigorosos de acesso à CPU, GPU, memória e armazenamento.
Esse conceito lembra as antigas redes P2P e projetos como o SETI@Home, que já aproveitavam computadores domésticos inativos para uma tarefa comum.
AS DUAS PLATAFORMAS
Por um lado, está a Far AI, da Far Labs, que, embora ainda não esteja em operação, deve ser lançada nas próximas semanas como uma experiência baseada em software próprio e que ofereceria uma latência de 100 ms ou menos, uma receita estimada de 4,41 dólares por mês e até 233% sobre o custo da energia elétrica, segundo a empresa.
E, por outro lado, está a Evolving Edge, em fase mais avançada que a Far Labs, pois já conta com uma versão beta aberta. Seu funcionamento se baseia no Ray, um “framework” de código aberto comum em centros de dados convencionais, com a missão de distribuir as tarefas.
Seu foco é a transparência e o código aberto, e se apresenta como a alternativa “social” aos centros de dados. Seu diretor executivo, John Federico, afirma que sua rede poderia perder 100 dos 250.000 nós e continuaria funcionando. Esse é mais um de seus pontos positivos, já que sua operação não dependeria de um centro de dados que, se falhasse, provocaria uma interrupção total dos serviços, como aconteceu no ano passado com a Amazon Web Services.
No entanto, segundo o Tom’s Hardware, que destaca essa nova abordagem como um modelo alternativo, os números relativos a custo e latência prometidos por ambas as empresas são afirmações não comprovadas até que as plataformas operem em escala.
Nesse sentido, vale lembrar o caso da Pearl, uma rede que prometia transformar a mineração de criptomoedas em trabalho de IA. De acordo com um estudo preliminar publicado no arXiv, a realidade dessa rede foi bem diferente: o equivalente a 320 mil placas de vídeo realizando cálculos inúteis.
Esta notícia foi traduzida por um tradutor automático