Les yeux bandés, si vous faites trois tours sur vous-même et lancez une pierre, vous toucherez inévitablement un modèle basé sur l’intelligence artificielle. Le battage médiatique autour de cette technologie a laissé derrière lui toute sensation de contrôle, mais au-delà des doutes sur sa qualité et son utilité, le fait est qu’elle est devenue beaucoup plus simple à installer dans des environnements conventionnels. En effet, le projet Ollama réduit tout le processus à un téléchargement initial, quelques commandes dans PowerShell et quelques minutes de votre temps.

Ollama : comment exécuter des modèles d’intelligence artificielle sur votre PC
Ollama : modèles d’intelligence artificielle

Vous vous demandez peut-être pourquoi je ne couvre plus les nouveautés liées à l’intelligence artificielle comme avant. La vérité est que nous traversons une phase de « moi aussi » qui frôle le désespérant. Le nombre de projets abusant de la mention « maintenant avec IA » ou similaire est absurde, et dans la grande majorité des cas, leurs résultats sont décevants.

À cela s’ajoute la disponibilité immédiate des modèles les plus importants, comme ChatGPT (qui a supprimé l’obligation de connexion dans sa version gratuite), Google Gemini, et Copilot (que Microsoft nous propose même pour aller aux toilettes). Cependant, je présente aujourd’hui un petit acte de rébellion, sous la forme de modèles locaux, privés et hors ligne. Évidemment, vous aurez besoin d’une certaine puissance pour qu’ils fonctionnent sans accroc, mais les exigences logicielles sont très simples. La première étape est de télécharger Ollama.

Ollama : une méthode efficace pour exécuter des modèles d’intelligence artificielle hors ligne

Ollama : comment exécuter des modèles d’intelligence artificielle sur votre PC
Les modèles ne sont pas petits, pour ainsi dire. Patience.

Une fois que vous avez téléchargé et installé Ollama, vous remarquerez une petite icône dans la barre d’état système. Cela ne fait qu’indiquer que l’environnement fonctionne. Vous pouvez également accéder à http://localhost:11434/ et vérifier que la phrase « Ollama is running » apparaît. Maintenant, Ollama ne possède pas d’interface, mais il n’en a pas besoin : le « chat » proprement dit fonctionne sous PowerShell.

Ollama : comment exécuter des modèles d’intelligence artificielle sur votre PC
Les commandes de base d’Ollama. Vous pouvez aussi exécuter « ollama --help » dans PowerShell pour en savoir plus.

Je recommande d’ouvrir PowerShell avec des privilèges élevés, car Ollama devra télécharger les modèles pour garantir son exécution locale. La liste complète est ici, mais Llama2 et Mistral sont deux options intéressantes pour commencer. Par exemple, en exécutant la commande « ollama run llama2 », Ollama obtiendra automatiquement une copie de Llama2. La moyenne est de 4 gigaoctets par modèle, donc vous devrez avoir un peu de patience et suffisamment d’espace sur votre unité. Le modèle sera prêt à être utilisé lorsque vous verrez le curseur, accompagné de l’expression « Envoyez un message (/? pour de l’aide) ».

Ollama : comment exécuter des modèles d’intelligence artificielle sur votre PC
Répétitif, mais rien de trop étrange...
Ollama : comment exécuter des modèles d’intelligence artificielle sur votre PC
... et c’est là que le délire a commencé.

Alors, dans quelle mesure Ollama fonctionne-t-il bien ? J’admets que l’environnement est très bon, mais la qualité finale des sessions sera toujours liée à ce que chaque modèle peut faire ou non. Llama2 comme Mistral ont bien commencé, mais en moins de dix minutes, ils déliraient déjà avec des informations incorrectes. Mistral a évoqué un projet américain (Project ALFRED) basé sur des RTG au milieu des années 60 dont je n’ai rien trouvé. En revanche, Llama2 m’a donné deux dates différentes pour les élections générales au Mexique... et a inventé des noms de candidats. ¯\_(ツ)_/¯

Ollama : comment exécuter des modèles d’intelligence artificielle sur votre PC
Apparemment, parler d’uranium est une « information sensible ou classifiée »
Ollama : comment exécuter des modèles d’intelligence artificielle sur votre PC
(soupir)... la date est fausse, et l’article 83 bloque toute possibilité de réélection.

En résumé, en tant qu’outil d’expérimentation, Ollama a de la solidité. Les modèles sont une autre histoire. Lien ci-dessous !

Site officiel et téléchargement : Cliquez ici