Se ti bendi gli occhi, giri 50 volte e lanci una pietra, inevitabilmente colpirai un modello basato sull'intelligenza artificiale. L'hype di questa tecnologia ha ormai superato ogni controllo, ma oltre ai dubbi su qualità e utilità, è diventato molto più semplice installarla in ambienti tradizionali. In effetti, il progetto Ollama riduce tutto a un download iniziale, un paio di comandi in PowerShell e qualche minuto del tuo tempo.

Ollama: come eseguire modelli di intelligenza artificiale sul tuo PC
Ollama: modelli di intelligenza artificiale

Forse ti chiedi perché non sto coprendo le novità sull'intelligenza artificiale come prima. Siamo in una fase del 'Io pure' che rasenta il disperante. Il numero di progetti che abusano della scritta 'ora con IA' è assurdo, e nella maggior parte dei casi i risultati sono deludenti.

A questo si aggiunge la disponibilità immediata dei modelli principali, come ChatGPT (che ha eliminato l'obbligo di login nella versione gratuita), Google Gemini e Copilot (che Microsoft offre anche per andare al bagno). Ma oggi vi presento un piccolo atto di ribellione: modelli locali, privati e offline. Ovviamente serve una certa potenza di calcolo, ma i requisiti software sono minimi. Il primo passo è scaricare Ollama.

Ollama: un modo efficace per eseguire modelli IA offline

Dopo aver scaricato e installato Ollama, noterai una piccola icona nella barra di sistema. Indica solo che l'ambiente è attivo. Puoi anche aprire http://localhost:11434/ e verificare che compaia la frase «Ollama is running». Ollama non ha interfaccia, ma non serve: la chat funziona direttamente in PowerShell.

Ollama: come eseguire modelli di intelligenza artificiale sul tuo PC
I modelli non sono proprio piccoli. Pazienza.

Ti consiglio di aprire PowerShell con privilegi di amministratore, perché Ollama deve scaricare i modelli per eseguirli in locale. L'elenco completo è qui, ma Llama2 e Mistral sono due buone opzioni per iniziare. Ad esempio, con il comando 'ollama run llama2' Ollama scarica automaticamente una copia di Llama2. In media servono circa 4 GB per modello, quindi serve pazienza e spazio su disco. Il modello è pronto quando vedi il cursore accompagnato da «Invia un messaggio (/? per aiuto)».

Ollama: come eseguire modelli di intelligenza artificiale sul tuo PC
I comandi base di Ollama. Puoi anche digitare 'ollama --help' per saperne di più.
Ollama: come eseguire modelli di intelligenza artificiale sul tuo PC
Ripetitivo, ma niente di troppo strano...
Ollama: come eseguire modelli di intelligenza artificiale sul tuo PC
... e qui è iniziato il delirio.

Quindi, come funziona Ollama? Devo ammettere che l'ambiente è molto buono, ma la qualità delle sessioni dipende sempre da ciò che ogni modello sa fare. Sia Llama2 che Mistral hanno iniziato bene, ma in meno di dieci minuti già producevano informazioni errate. Mistral ha inventato un progetto americano (Project ALFRED) basato su RTG a metà degli anni '60, di cui non ho trovato traccia. Llama2 invece mi ha dato due date diverse per le elezioni generali in Messico e ha inventato nomi di candidati. ¯\_(ツ)_/¯

Ollama: come eseguire modelli di intelligenza artificiale sul tuo PC
Apparentemente, parlare di uranio è «informazioni sensibili o classificate»
Ollama: come eseguire modelli di intelligenza artificiale sul tuo PC
(sospiro)... la data è sbagliata, e l'articolo 83 blocca la possibilità di una rielezione.

In sintesi, come strumento di sperimentazione, Ollama è solido. I modelli, è un'altra storia. Link qui sotto!

Sito ufficiale e download: Clicca qui