O Raspberry Pi 5, o computador pequeno, mas poderoso, que se tornou muito popular entre os entusiastas de tecnologia e empresas industriais, agora também é um computador de IA. A empresa acabou de lançar o AI Kit, um kit de extensão de $70 com um acelerador de inferência de rede neural que pode ser usado para inferência local.
Para este novo módulo de extensão, o Raspberry Pi está aproveitando seu cartão de extensão HAT+. HAT significa 'Hardware Attached on Top'. É um acrônimo fofo que a empresa tem usado para cartões de extensão que podem ser encaixados em cima de um Raspberry Pi comum.
O cartão de extensão HAT+ do Raspberry Pi adiciona um slot M.2, que é um slot de extensão padrão comumente usado para componentes de PC. (este slot está conectado ao Raspberry Pi através de uma interface PCIe 3.0 de um canal rodando a 8Gbps para nossos leitores que se preocupam com os detalhes).
E a empresa se associou à Hailo, uma startup de chips de IA que recentemente levantou $120 milhões e quer desafiar a Nvidia. A Hailo é especializada em chips projetados para executar cargas de trabalho de IA em dispositivos de borda, como carros, câmeras inteligentes, robótica e agora dispositivos Raspberry Pi.
O módulo de aceleração que o Raspberry Pi está usando para o AI Kit é o Hailo-8L. É um módulo de nível básico em um fator M.2, o que significa que pode ser facilmente inserido no HAT+.
Uma vez que tudo está instalado, o que você obtém é um Raspberry Pi 5 com 13 tera-operações por segundo (TOPS) de desempenho de inferência. Não é muito comparado ao desempenho de uma GPU da Nvidia. Mas é econômico e funciona com a fonte de alimentação padrão de 27W do Raspberry Pi.
Em relação ao software, a última versão do Raspberry Pi OS detecta automaticamente o módulo da Hailo. A unidade de processamento neural fica disponível para o sistema operacional e aplicativos que se beneficiam dela.
O Raspberry Pi também atualizou sua suíte de aplicativos de câmera para que suportem inferência de redes neurais como parte do pipeline da câmera. Por exemplo, pode ser usado para detecção de objetos ('isso é uma banana'), segmentação semântica ('essas três coisas são veículos em movimento'), segmentação de instância ('esses três veículos em movimento são um caminhão, um carro vermelho e um carro azul'), estimativa de pose e landmark facial.
Esses são apenas exemplos do que você pode fazer com um Raspberry Pi equipado com o kit de IA e uma câmera de primeira ou terceira parte. Mas o chip da Hailo também poderia ser aproveitado para casos de uso não relacionados à câmera.
Vai ser interessante ver novos casos de uso surgirem da comunidade Raspberry Pi. Este kit de extensão de IA é uma ferramenta. Agora, cabe aos clientes do Raspberry Pi descobrir o que querem fazer com ela.
Hailo arrecada $120 milhões para continuar competindo com a Nvidia à medida que a maioria das startups de chips de IA enfrenta dificuldades
