「Raspberry Pi 5」向けAI拡張ボード「AI HAT+ 2」が登場–生成AIのローカル実行を強化 – ZDNET Japan

「Raspberry Pi 5」向けの新AI拡張ボード「AI HAT+ 2」は、生成AIのローカル実行を強化し、データプライバシーを守りながら高性能な処理を実現します。
これにより、開発者はクラウドに依存せず、コスト効率の良いAIソリューションを構築できることが期待されます。

記事の概要

「Raspberry Pi 5」向けの新しいAI拡張ボード「AI HAT+ 2」が、2024年1月15日に発表されました。
この製品は、従来の「AI HAT+」の性能を大幅に向上させており、Hailo製の「Hailo-10H」チップを搭載し、推論性能が40 TOPSに達しています。
このため、大規模言語モデルや視覚言語モデルなどの生成AIワークロードを、Raspberry Pi 5本体のリソースを消費せずにローカルで実行できるようになりました。
また、従来のビジョンベースのAIワークロードにおいても、約26 TOPSの性能を維持しています。
移行はスムーズで、ユーザー向けに生成AIのリソースも提供されています。
接続はPCI Expressインターフェースを利用し、ヒートシンクのオプションもあります。
安定した動作には熱管理が重要です。

記事のポイント

1. AI処理の効率向上： 新しい「AI HAT+ 2」は、Raspberry Pi 5の処理能力を消費せずに、ローカル環境で独立してAIワークロードを実行できるようになっています。
2. 高性能化： 推論性能が40 TOPSに向上し、大規模言語モデルや視覚言語モデルの処理がより迅速に行えるようになりました。
3. シームレスな移行： 既存のAI HAT+を使用しているユーザーは、最新モデルへの移行が非常にスムーズであるとされています。

詳しい記事の内容はこちらから（引用元）

ZDNET Japan

「Raspberry Pi 5」向けAI拡張ボード「AI HAT+ 2」が登場--生成AIのローカル実行を強化

Raspberry Piは、エッジAI処理を強化する拡張ボード「Raspberry Pi AI HAT+ 2」を発表した…