AI DeepSeek rende open source DeepInfer, il motore dei suoi servizi

Il laboratorio cinese pubblica con licenza Apache 2.0 il software che fa girare i suoi modelli in produzione: secondo l'azienda un solo cluster serve 155.000 miliardi di token al giorno. Per ora supporta un solo modello.

Il contesto

L'«inferenza» è la fase in cui un modello di intelligenza artificiale già addestrato risponde alle richieste degli utenti. È la parte che costa ogni giorno, perché ogni domanda consuma potenza di calcolo. DeepSeek scrive che servire moltissimi utenti a un prezzo ragionevole è «il problema centrale che un framework di inferenza deve risolvere» (SiliconANGLE).

DeepSeek è una startup di Hangzhou, in Cina, nota per modelli potenti a costi bassi. Ad aprile 2025 non aveva pubblicato il suo motore completo: lo descriveva come una versione modificata del progetto open source vLLM, troppo legata ai suoi strumenti interni. Aveva però già rilasciato librerie come FlashMLA, DeepGEMM e DeepEP, che DeepInfer ora usa (SiliconANGLE).

La pubblicazione arriva un giorno dopo l'ordine del Dipartimento per la sicurezza interna degli Stati Uniti di rimuovere i prodotti DeepSeek dai sistemi delle agenzie civili federali (SiliconANGLE).

I fatti, punto per punto

• Licenza. DeepInfer è su GitHub con licenza Apache 2.0, che ne consente anche l'uso commerciale; insieme è uscita deepseek-recipe, con licenza MIT, che trasforma le richieste in sequenze di token come l'API ufficiale (MarkTechPost, SiliconANGLE).
• La scala. Secondo il documento di domande e risposte di DeepSeek, un solo cluster serve 155.000 miliardi di token al giorno e il ricavo complessivo è di 38 dollari per GPU all'ora con i prezzi delle ore di minor traffico (SiliconANGLE, MarkTechPost).
• Hardware. Funziona sulle GPU Nvidia Blackwell SM100 e sui chip Huawei Ascend 950, non sulle architetture Nvidia più vecchie come Hopper (SiliconANGLE).
• Un solo modello. Per ora supporta solo DeepSeek-V4.1-Flash; DeepSeek dice che il codice per i modelli futuri finirà nello stesso archivio (SiliconANGLE).
• La tecnica. Con DSpark un modello più piccolo propone 5 token alla volta e il sistema verifica solo i più promettenti: circa il 30% di token verificati in meno e, secondo DeepSeek, dal 4% al 7% di capacità in più al carico di produzione (MarkTechPost, SiliconANGLE).
• Che cosa manca. Non sono stati pubblicati il codice per la gestione della cache e per il bilanciamento del carico, troppo legati all'infrastruttura interna (SiliconANGLE).

Un esempio concreto

Una startup europea che offre un assistente per studi legali usa un modello aperto e paga a ore le GPU di un fornitore cloud. Il suo costo principale è l'inferenza: ogni risposta consuma minuti di calcolo. Con un motore ottimizzato come DeepInfer, se le prestazioni dichiarate da DeepSeek si confermano, potrebbe servire più richieste con le stesse GPU.

C'è però un limite pratico: oggi DeepInfer funziona solo con DeepSeek-V4.1-Flash e solo su hardware recente, Nvidia Blackwell o Huawei Ascend 950. Chi usa altri modelli o GPU più vecchie deve aspettare o adattare il codice. Inoltre, alcune organizzazioni pubbliche, come le agenzie federali americane, hanno vietato i prodotti DeepSeek.

I numeri

Dati delle fonti citate, aggiornati al 22/10/2026.

Cosa succede adesso

• DeepSeek dice che il codice per i modelli futuri verrà pubblicato nello stesso archivio (SiliconANGLE).
• Restano da pubblicare la gestione della cache e il bilanciamento del carico; la separazione tra fasi di calcolo su macchine diverse è lasciata agli operatori (SiliconANGLE).
• Le prestazioni sono state misurate da DeepSeek: serviranno test indipendenti.