A DeepSeek anunciou em 20 de outubro de 2026 que abriu o código do DeepInfer sob a licença Apache 2.0. A versão pública oferece inferência offline para o modelo DeepSeek-V4.1-Flash em aceleradores NVIDIA SM100 ou Huawei Ascend 950. Para operar como serviço online completo, ainda são necessários componentes que não fazem parte do lançamento.
O que a DeepSeek publicou
O DeepInfer é um framework de inferência para modelos da DeepSeek. A versão inicial lista o DeepSeek-V4.1-Flash e o checkpoint padrão DeepSeek-V4.1-Flash-1017. O código está disponível no repositório oficial do DeepInfer sob a licença Apache 2.0.
A DeepSeek também publicou a biblioteca complementar deepseek-recipe. Ela converte dados entre protocolos comuns de APIs de modelos de linguagem e sequências de tokens, alinhando essa lógica à API oficial da empresa. O repositório do deepseek-recipe apresenta o projeto.
O limite entre inferência offline e serviço completo
A versão pública executa inferência offline. Um serviço completo também precisa gerenciar o cache KV, separar as etapas de prefill e decode e distribuir a carga entre réplicas de processamento paralelo. O cache KV guarda informações intermediárias usadas durante a geração; o prefill processa a entrada, e o decode gera os tokens da resposta.
Plataformas compatíveis e requisitos de compilação
A lista inicial associa cada acelerador a um backend de software específico:
| Plataforma | Acelerador listado | Backend |
| NVIDIA | NVIDIA SM100 GPU | CUDA 13 |
| Huawei | Huawei Ascend 950 NPU | CANN 9.2 |
A compilação também requer Linux, GCC 13 ou posterior e Python 3.12. A documentação marca inferência invariável por lote e amostragem determinística como recursos exclusivos de NVIDIA. Esses requisitos ajudam a delimitar as configurações descritas pela DeepSeek; não se estendem automaticamente a outras gerações de GPUs ou a sistemas com placas diferentes.
As estimativas do DSpark variam com a concorrência
O DSpark é um método de decodificação especulativa que prevê a taxa de aceitação de tokens provisórios e escolhe quantos verificar. Na comparação EP64/DP64 da DeepSeek, a verificação dinâmica foi comparada ao método fixed-five, que verifica cinco tokens. A estimativa de mudança na vazão varia conforme o número de sequências simultâneas por rank:
| Sequências simultâneas por rank | Método de referência | Variação estimada da vazão |
| 16 | fixed-five | −1,5% |
| 60 | fixed-five | +5,4% |
| 96 | fixed-five | +11,0% |
A DeepSeek descreve cerca de 60 sequências por rank como seu ponto operacional de produção. Nesse nível, a empresa estima ganho de 5,4% frente ao fixed-five; com 16 sequências por rank, estima queda de 1,5%. Os resultados variam com a carga e são estimativas da própria empresa.
Uma configuração implantável não é a configuração eficiente mínima
A DeepSeek afirma que uma implantação com uma GPU de prefill e uma de decode é viável. Para a menor configuração que considera eficiente, recomenda 64 GPUs de prefill e 64 GPUs de decode, em linha com sua configuração de decode recomendada. A diferença é relevante para quem avalia a escala operacional: conseguir implantar o sistema não significa que essa configuração seja a que a empresa considera eficiente.
O que os números operacionais da DeepSeek medem
A DeepSeek afirma que um cluster atende 155 trilhões de tokens por dia e reporta receita de US$ 38 por GPU-hora na modalidade de preços que chama de “valley pricing”. São números da operação da própria empresa, com essa condição de preço.
