/note/tech

Raspberry Pi AI HAT+ 2

要約:

■ 1. Raspberry Pi AI HAT+ 2の概要

  • Hailo-10H AIアクセラレータを搭載
  • 8GBのオンボードRAMを搭載
  • Raspberry Pi 5に生成AI機能を追加するHAT
  • 価格は130ドル
  • 現在販売中

■ 2. オンボードRAMの利点

  • 8GBの専用オンボードRAMを搭載
  • 大規模言語モデル(LLM)やビジョン言語モデル(VLM)をローカルかつセキュアに実行可能
  • ホストのRaspberry Pi 5を他のタスク処理に解放できる
  • AIモデルのスムーズな動作を保証

■ 3. プライバシーとセキュリティ

  • エッジでの信頼性が高く低遅延なAI処理を実現
  • ネットワーク接続なしで動作可能
  • データセキュリティを簡素化
  • インフラ要件を最小化
  • クラウドAPIコストを削減

■ 4. モデルの提供

  • Hailoがサンプルモデルを提供
  • ユーザーによるカスタマイズ:
    • カスタムビジョンモデルのトレーニング
    • 生成AIモデルのファインチューニング
  • 対応アプリケーションの例:
    • 音声からテキストへの変換
    • 翻訳
    • 視覚シーン分析
  • 互換性のある生成AIモデル用ソフトウェアはHailoのGitHubリポジトリで入手可能

■ 5. 主な仕様

  • Hailo-10H AIアクセラレータ搭載
  • 40 TOPS(INT4)の推論性能
  • コンピュータビジョンモデルの性能はRaspberry Pi AI HAT+(26 TOPS)と同等
  • 8GBオンボードRAMにより生成AIモデルを効率的に実行
  • Raspberry Piのカメラソフトウェアスタックに完全統合
  • Raspberry Pi HAT+仕様に準拠

■ 6. 付属品

  • オプションのヒートシンク付属
  • 16mmスタッキングヘッダー付属
  • スペーサーとネジ付属
  • Raspberry Pi Active Cooler装着済みのRaspberry Pi 5への取り付けが可能