DeepSeek libera código aberto de ferramenta para otimizar IA e reduzir custos

A empresa chinesa DeepSeek anunciou na quarta-feira (21) a disponibilização do DeepInfer, uma ferramenta de código aberto desenvolvida para reduzir os custos de operação de modelos de inteligência artificial (IA). O software otimiza a execução dos sistemas da empresa, com o objetivo de diminuir o uso de recursos computacionais e o consumo de energia. A iniciativa permite que empresas e provedores de serviços de nuvem utilizem técnicas adotadas pela própria DeepSeek para executar seus modelos de forma mais eficiente.

A DeepSeek, sediada em Hangzhou, na China, afirmou que está compartilhando sua infraestrutura de produção para ajudar desenvolvedores a reduzir os custos de computação e ampliar o acesso à IA. A ferramenta funciona como uma camada de software que coordena a execução dos modelos e aproveita melhor a capacidade dos equipamentos utilizados no processamento. Atualmente, o DeepInfer oferece suporte ao modelo V4.1-Flash, com planos de adicionar compatibilidade com sistemas futuros.

O que é inferência e como o DeepInfer otimiza o processo

O lançamento expõe parte dos métodos usados pela DeepSeek para manter baixos os custos de execução de seus modelos, etapa conhecida como inferência. É nesse processo que um sistema de IA utiliza o treinamento recebido para responder a perguntas, gerar textos ou realizar outras tarefas. O custo dessa operação varia conforme o modelo, o volume de solicitações e a eficiência do software e do hardware empregados. Por isso, dois serviços que utilizam o mesmo modelo podem ter despesas operacionais diferentes.

O DeepInfer combina diferentes técnicas de otimização, entre elas a inferência distribuída, que divide as cargas de trabalho entre diferentes componentes de hardware. Essa estratégia permite distribuir o processamento e aumentar o volume de resultados produzidos em determinado período. Embora muitas dessas técnicas já sejam utilizadas no setor, a DeepSeek adaptou sua implementação às características de seus próprios modelos.

Impacto para empresas e provedores de nuvem

A disponibilização do software pode beneficiar empresas de hospedagem e provedores de nuvem que oferecem acesso aos modelos da DeepSeek. Ao incorporar essas técnicas à própria infraestrutura, esses operadores podem reduzir o custo computacional de cada solicitação e melhorar suas margens de lucro. Caso a economia seja repassada aos clientes, a iniciativa também poderá contribuir para diminuir o preço de serviços de IA.

Empresas que executam os modelos em servidores próprios, por sua vez, poderão usar a ferramenta para tentar reduzir suas despesas operacionais. Apesar das possibilidades, a adoção do DeepInfer não elimina a necessidade de equipamentos com capacidade de processamento e de profissionais especializados para instalar e operar os sistemas. Segundo Thibault Jaigu, presidente-executivo da Requesty, startup que desenvolve ferramentas de métricas e roteamento para serviços de IA, a iniciativa reduz as barreiras para hospedar os modelos da empresa.

Referência para o mercado e próximos passos

A proposta, na prática, é permitir que organizações executem os sistemas por conta própria com acesso às técnicas de otimização utilizadas pela desenvolvedora chinesa. A ferramenta também pode servir de referência para outros desenvolvedores interessados em aprimorar seus sistemas de inferência. Como o código é aberto, profissionais e empresas podem examinar as técnicas implementadas e avaliar possíveis adaptações para outras arquiteturas.

Ainda não há, porém, estudos comparativos independentes que comprovem os ganhos de eficiência do DeepInfer. Embora o lançamento ofereça acesso a métodos de otimização, a economia efetiva dependerá da infraestrutura, das aplicações e das condições de uso de cada organização.