Ed Bott ha riferito di aver completato un progetto di IA locale con 479 chiamate d’inferenza, quasi 50 milioni di token logici e zero dollari di costi d’inferenza. Il lavoro ha prodotto un archivio di articoli e uno script per aggiornarlo. Quel costo riguarda le richieste al modello, non il prezzo del computer né il costo complessivo del progetto.

Come Bott ha impostato il flusso di lavoro

Nel resoconto pubblicato il 6 novembre 2026, Bott descrive un HP OmniBook Ultra con NVIDIA RTX Spark e 128 GB di memoria unificata. Con l’aiuto di Copilot ha configurato llama.cpp, il modello a pesi aperti Qwen3.8-27B e Cline, un agente di programmazione usato all’interno di Visual Studio Code. L’avvio della configurazione ha richiesto meno di mezz’ora, secondo Bott.

Dopo aver preparato una specifica dettagliata dell’applicazione, Bott ha lasciato che Cline scrivesse codice, eseguisse test e rivedesse il risultato in più passaggi. Ogni tanto interveniva per approvare una scelta. Il racconto si concentra su questo flusso di lavoro individuale; il precedente confronto di NeoTeo tra RTX Spark e Snapdragon X2 riguardava un’attività diversa.

L’archivio creato e il lavoro rimasto

Il progetto partiva da un foglio di calcolo con link ad articoli che Bott aveva raccolto nell’arco di due anni. Il risultato comprendeva 1.951 file HTML grezzi e 1.951 file Markdown, oltre a uno script per aggiungere nuovi articoli in futuro.

Circa 90 link restituivano errori 404: Bott ha tentato di recuperare le pagine tramite la Wayback Machine. Circa 90 altre pagine sono rimaste irrecuperate. Per controllare e sistemare i problemi rimanenti, Bott riferisce di aver impiegato circa mezz’ora.

Il risultato più concreto è ciò che resta dopo l’elaborazione: un archivio in due formati e uno script per aggiornarlo.

Che cosa significa il costo d’inferenza pari a zero

Le 479 chiamate, i quasi 50 milioni di token logici e i zero dollari sono i numeri che Bott attribuisce a quel progetto. Non descrivono una misura standardizzata della velocità del computer: sono il resoconto di un singolo flusso di lavoro. Il costo d’inferenza indica quanto è stato addebitato per le richieste al modello; il prezzo dell’hardware è una voce distinta.

Bott ha anche riferito che le ventole si sentivano mentre il modello lavorava. In quella sessione il portatile non diventava sgradevolmente caldo, ma per questo carico Bott preferiva usarlo su una scrivania anziché sulle gambe.

La configurazione HP elencata è diversa da quella descritta da Bott

Bott descrive un dispositivo con 128 GB di memoria unificata. La scheda HP statunitense identifica invece la SKU E5AW2UA#ABA come una configurazione separata con 64 GB di RAM e un SSD da 2 TB. La pagina si riferisce al mercato statunitense; quei dati non identificano il dispositivo usato da Bott.

Perché alcuni utenti scelgono comunque l’IA locale

In una discussione sull’IA locale, alcuni partecipanti citano privacy, controllo, apprendimento e interesse personale; altri mettono in dubbio l’acquisto di nuovo hardware se l’unico obiettivo è risparmiare. Sono valutazioni individuali su configurazioni diverse, non prove sul portatile di Bott.