L'intelligenza artificiale ci ha già invasi, ma ora affronta nuove sfide. Una di queste è l'efficienza: mantenere così tanti modelli online richiede molta energia, e alcune aziende puntano sul «rendimento per watt» per promuovere i propri prodotti. È così che arriviamo al Raspberry Pi AI Kit, un pacchetto hardware compatibile con Raspberry Pi 5 destinato ad accelerare compiti di «apprendimento automatico» come riconoscimento di oggetti, rilevamento delle pose, segmentazione delle immagini e altre applicazioni che dipendono da una fotocamera.
Vuoi un'intelligenza artificiale locale? In questi giorni basta installare Ollama e scaricare uno dei modelli compatibili. Anche se avrai bisogno di potenza di calcolo (incluso spazio su disco) e di una buona dose di pazienza quando iniziano a delirare, il processo non comporta grandi mal di testa e tutto il software è gratuito.
Tuttavia, esistono altre applicazioni che vanno oltre la chat. È in questa direzione che punta la Raspberry Pi Foundation con il suo nuovo prodotto, il Raspberry Pi AI Kit. Questo pacchetto include due componenti: un adattatore M.2 HAT+ e il modulo acceleratore vero e proprio, basato sul chip Hailo-8L.
Cosa si può fare con il Raspberry Pi AI Kit?
Jeff Geerling nel suo ultimo video ci spiega che il punto di forza del Raspberry Pi AI Kit sta nelle attività visive. La cosa più notevole è che il chip Hailo-8L oscilla tra 3 e 4 TOPS per watt, superando i concorrenti diretti in efficienza e prezzo. Ora, non ha senso addestrare un modello su questo hardware (dovresti aspettare diversi giorni), ma il salto di prestazioni in determinati ambienti è notevole. Ad esempio, YOLOv5 funziona a due o tre fotogrammi al secondo sulla CPU del Raspberry Pi, ma con il modulo AI l'offloading è completo, liberando il processore per altre applicazioni.
Ovviamente, questo non significa che il Raspberry Pi AI Kit sia adatto a qualsiasi carico di lavoro. La generazione di immagini e i modelli linguistici (ad esempio ChatGPT) richiedono hardware molto più potente... ma non è nemmeno impossibile. Se il modulo è accessibile e ben documentato, il software arriverà, e con 70 dollari sul cartellino, probabilmente farà più rumore di quanto immaginiamo.
Sito ufficiale: Fai clic qui
