Quanto costa l’IA locale rispetto a un abbonamento?

Il costo elettrico dell’IA locale può essere molto basso, ma non basta a dire se convenga più di un abbonamento: nel confronto entrano anche il prezzo del computer, quanto lo usi e il tipo di servizio cloud che sostituisce. Un test misura l’energia per una configurazione specifica; un esempio separato mostra come cambia il conto quando si include l’hardware.

Per confrontare i costi, considera lo stesso lavoro e somma energia, quota dell’hardware e volume di utilizzo.

Quanto costa l’elettricità per generare token in locale

Nel test descritto da Abhinav Raj, il sistema ha raggiunto un picco combinato di 237,5 W durante la lettura dei prompt e di 251,9 W durante la generazione. Raj ha eseguito Qwen3.6-35B-A3B, quantizzato in UD-IQ4_XS, su un PC con RTX 4070 Ti Super e Ryzen 5 7600X. La sua stima dell’energia per generare un milione di token è di 14,9 centesimi di dollaro; sale a 20,8 centesimi nello scenario che aggiunge 100 W per gli altri componenti e le perdite dell’alimentatore. Il calcolo di Raj usa una tariffa residenziale statunitense prevista per il 2026, pari a 18,2 centesimi di dollaro per kWh, e attribuisce ogni token al consumo di picco.

È una stima della sola elettricità per quel sistema e quel metodo di calcolo. Non include il costo d’acquisto o l’ammortamento del PC. Inoltre, il modello occupava 16,5 GB, più dei 16 GB di memoria della GPU: Raj ha quindi spostato sulla CPU parte del lavoro relativo a otto livelli del modello. In quella configurazione, considerare soltanto la scheda video avrebbe escluso una parte del consumo.

Quanto pesa l’hardware nel costo totale

Un esempio didattico in euro rende visibile il peso dell’investimento iniziale. Riprende la struttura del calcolo di Flavio Copes, ma usa ipotesi espresse in euro: 1.800 € per l’hardware, ripartiti su 36 mesi, e 8,60 € al mese di elettricità. L’uso ipotizzato è di 500.000 token generati al giorno, cioè 15 milioni in un mese di 30 giorni. Sono valori illustrativi, non prezzi o tariffe dell’Italia.

La quota mensile dell’hardware deriva da 1.800 € ÷ 36 = 50 €; aggiungendo 8,60 € di elettricità, il costo locale arriva a 58,60 €. Nel caso API da 150 € al mese, la differenza rispetto al costo locale è 91,40 €: 1.800 € ÷ 91,40 € equivale a circa 19,7 mesi. Negli scenari da 6 € e 30 €, la spesa API è inferiore al costo mensile locale ipotizzato, quindi quel calcolo non produce un recupero dell’investimento.

Il risultato dipende dal costo del servizio che l’uso locale sostituisce. Comprare hardware solo per ridurre la bolletta elettrica non basta: in questo esempio è il confronto con l’API più costosa a rendere possibile il recupero, mentre gli scenari più economici restano sotto il totale locale.

Una tariffa API non è il prezzo di un abbonamento

Le API addebitano l’utilizzo, in genere in base ai token elaborati e al modello scelto; un abbonamento applica invece un canone e può avere limiti d’uso legati al piano. La distinzione tra queste forme di fatturazione conta perché una tariffa per milione di token non indica quanti token siano inclusi in un abbonamento né quanto lavoro vi si possa svolgere.

Il confronto di Raj riguarda tariffe API e costo elettrico del suo sistema. Il riferimento a una somma mensile per una sottoscrizione non calcola un prezzo equivalente per token. Per scegliere tra locale e cloud, quindi, occorre confrontare il costo completo dell’hardware e dell’energia con il servizio e il volume d’uso che si intende davvero sostituire.