L’intelligence artificielle nous a déjà envahis, mais elle fait face à de nouveaux défis. L’un d’eux est l’efficacité : maintenir autant de modèles en ligne demande beaucoup d’énergie, et certaines entreprises misent sur l’«efficacité par watt» pour promouvoir leurs produits. C’est ainsi que nous arrivons au Raspberry Pi AI Kit, un ensemble de matériel compatible avec le Raspberry Pi 5, destiné à accélérer des tâches d’«apprentissage automatique» comme la reconnaissance d’objets, la détection de poses, la segmentation d’images, et d’autres applications qui dépendent d’une caméra.
Vous voulez une intelligence artificielle locale ? De nos jours, il suffit d’installer Ollama et de télécharger un des modèles compatibles. Bien que vous ayez besoin de puissance pour les exécuter correctement (cela inclut de l’espace disque) et d’une bonne dose de patience lorsqu’ils commencent à dérailler, le processus ne cause pas trop de maux de tête, et tout le logiciel est gratuit.
Cependant, il existe d’autres applications qui vont au-delà du chat. C’est dans cette direction que pointe la Raspberry Pi Foundation avec son nouveau produit, le Raspberry Pi AI Kit. Ce paquet comprend deux composants : un adaptateur M.2 HAT+, et le module accélérateur proprement dit, basé sur la puce Hailo-8L.
Que peut-on faire avec le Raspberry Pi AI Kit ?
Jeff Geerling nous explique dans sa dernière vidéo que le point fort du Raspberry Pi AI Kit se trouve dans les tâches visuelles. Le plus remarquable est que la puce Hailo-8L oscille entre 3 et 4 TOPS par watt, surpassant ses concurrents directs en efficacité et en prix. Maintenant, il n’a aucun sens d’entraîner un modèle sur ce matériel (vous devrez attendre plusieurs jours), mais le saut de performance dans certains environnements est notable. Par exemple, YOLOv5 fonctionne à deux ou trois images par seconde sur le CPU du Raspberry Pi, mais avec le module AI, l’offloading est complet, libérant le processeur pour d’autres applications.
Évidemment, cela ne veut pas dire que le Raspberry Pi AI Kit convient à toutes les charges de travail. La génération d’images et les modèles de langage (comme «ChatGPT») nécessitent beaucoup plus de matériel… mais ce n’est pas non plus impossible. Si le module est accessible et bien documenté, le logiciel apparaîtra, et avec 70 dollars sur son étiquette, il fera probablement plus de bruit que nous l’imaginons.
Site officiel : Cliquez ici
