エッジAI用半導体 10選：米国EDNが選出（2/3 ページ）

[Sally Ward-Foxton，EDN]

ラズパイとの互換性を実現

　HailoのエッジAIアクセラレーター「Hailo-10H」は、Raspberry Pi（ラズパイ）に挿入できるフォームファクターで提供されるため、大規模な開発者基盤を獲得しつつある。一方で、Hailo-10Hは、HPがPOSシステム向けアドオンカードに採用しているほか、自動車向け認証も取得している。

　Hailo-10Hは「Hailo-10」と同じシリコンを採用しながらも、より低い電力性能ポイントで動作する。Hailo-10Hは、20億パラメータのLLMを約2.5Wで実行可能だ。このAIコプロセッサのアーキテクチャはHailoの第2世代アーキテクチャをベースとしており、トランスフォーマーアーキテクチャのサポート強化と柔軟な数値表現を実現している。複数のモデルを同時に実行できることも特徴だ。

Hailoの「Hailo-10H」［クリックで拡大］ 出所：Hailo

アナログのアクセラレーション

　スタートアップのEnCharge AIは、同社初の製品となる「EN100」を発表した。このチップはAI PCをターゲットとした200TOPS（INT8）アクセラレーターであり、40TOPS/Wという驚異的な効率を達成している。同アクセラレーターは、容量ベースのアナログインメモリコンピューティング（In-Memory Computing：IMC）技術をベースにしていて、同社によれば抵抗ベース方式よりも温度感度が低いという。出力は電流ではなく電圧であるため、トランスインピーダンスアンプが不要となり、消費電力を削減できる。

　アナログアクセラレーターと併せて、高精度演算や浮動小数点演算が必要な場合に利用可能なデジタルコアがオンチップに搭載されている。EN100は、32ギガバイト（GB）のLPDDRを搭載したM.2カード（EN100を1個搭載）で提供される。このM.2カードの消費電力は8.25Wだ。4チップ構成のHHHL（Half-Height Half-Length） PCIeカードは、128GBのLPDDRメモリを搭載し、40Wの電力エンベロープで最大1TOPS（INT8）を実現する。

EnCharge AIの「EN100」。写真はM.2カード［クリックで拡大］ 出所：EnCharge AI

SNN用のアクセラレーター

　消費電力がマイクロワット級のアプリケーション向けに、Innatera Nanosystems（以下、Innatera）は極めて低消費電力で推論を実行できるAI搭載MCUを開発した。ニューロモーフィックMCU「Pulsar」は常時稼働型のセンサーアプリケーションを対象としていて、レーダーベースの存在検知では600μW、音声シーン分類では400μWの消費電力を実現する。

　Pulsarは、Innateraのスパイキングニューラルネットワーク（SNN）アクセラレーターを採用。アナログとデジタルの両スパイクアクセラレーターをオンチップに搭載し、異なるアプリケーションやワークロードに対応できる。Innateraは、自社ソフトウェアスタック「Talamo」により、開発者がSNNの専門家でなくてもデバイスを利用できると説明する。TalamoはPyTorchおよびPyTorchベースのシミュレーターと直接連携し、開発のどの段階でも消費電力の推定を可能にする。

スパイキングニューラルネットワーク（SNN）アクセラレーター「Pulsar」［クリックで拡大］ 出所：Innatera Nanosystems

生成AI用チップ

　Axelera AIの第2世代チップ「Europa」は、エンドポイントデバイスやエッジサーバにおいて、マルチユーザー生成AIとコンピュータビジョンアプリケーションの両方をサポートできる。8コアのチップで、629TOPS（INT8）を実現する。AI演算用の大規模ベクターエンジンに加え、データの前処理および後処理用に8つのRISC-V CPUコアを2クラスタ搭載する。さらに、H.264／H.265デコーダーをオンチップ搭載しているので、ホストCPUをアプリケーションレベルのソフトウェア用に解放できる。メモリからのデータ供給を迅速に確保するため、同チップのAIプロセッサユニットは128メガバイト（MB）のL2 SRAMと256ビットLPDDR5インタフェースを提供する。

　ソフトウェア開発キット（SDK）である「Voyager」は、Europaだけでなく、より古典的なCNNやビジョンタスク向けに設計された第1世代チップの「Metis」の両方に対応する。Europaはチップ単体またはPCIeカードのフォームファクタで提供される。カードは、複数の4Kビデオストリームの処理が必要なエッジサーバアプリケーションを想定している。