A inteligência artificial já nos invadiu, mas agora enfrenta novos desafios. Um deles é a eficiência: manter tantos modelos online exige muita energia, e algumas empresas apostam no “desempenho por watt” para promover seus produtos. Assim chegamos ao Raspberry Pi AI Kit, um pacote de hardware compatível com o Raspberry Pi 5 destinado a acelerar tarefas de “aprendizado de máquinas” como reconhecimento de objetos, detecção de poses, segmentação de imagens e outras aplicações que dependam de uma câmera.
Quer uma inteligência artificial local? Hoje em dia basta instalar o Ollama e baixar um dos modelos compatíveis. Se você vai precisar de poder de fogo para que eles rodem corretamente (isso inclui espaço em disco) e uma boa dose de paciência quando começarem a delirar, o processo não gera grandes dores de cabeça, e todo o software é gratuito.
No entanto, existem outras aplicações que vão além do chat. É nessa direção que a Raspberry Pi Foundation aponta com seu novo produto, o Raspberry Pi AI Kit. Este pacote traz dois componentes: um adaptador M.2 HAT+ e o módulo acelerador propriamente dito, baseado no chip Hailo-8L.
O que dá para fazer com o Raspberry Pi AI Kit?
Jeff Geerling nos explica em seu último vídeo que o ponto forte do Raspberry Pi AI Kit está nas tarefas visuais. O mais notável é que o chip Hailo-8L oscila entre 3 e 4 TOPS por watt, superando seus concorrentes diretos em eficiência e preço. Agora, não faz sentido treinar um modelo neste hardware (você terá que esperar vários dias), mas o salto de desempenho em certos ambientes é notável. Por exemplo, YOLOv5 funciona a dois ou três quadros por segundo na CPU do Raspberry Pi; no entanto, com o módulo AI o offloading é completo, liberando o processador para outras aplicações.
Obviamente, isso não significa que o Raspberry Pi AI Kit seja apropriado para qualquer carga de trabalho. Geração de imagens e modelos de linguagem (leia-se “ChatGPT”) são coisas que exigem muito mais hardware... mas também não é algo impossível. Se o módulo é acessível e bem documentado, o software aparecerá, e com 70 dólares na etiqueta, provavelmente fará mais barulho do que imaginamos.
Site oficial: Clique aqui
