エッジAI用半導体 10選：米国EDNが選出（1/3 ページ）

エッジAI用の半導体が次々に登場している。本稿では、米国EDNが選んだ「エッジAIアプリケーション向けチップ10選」を紹介する。

[Sally Ward-Foxton，EDN]

　エッジAIデバイスの導入が少しずつ進むにつれ、さまざまなアプリケーションに対応するチップが次々と登場している。音声認識のようなアプリケーションは常時稼働の電力エンベロープで実行できる一方で、数十ワットの電力で大規模な生成AIモデルさえも動作させられる。

　本稿では、米国EDNが選んだ「エッジAIアプリケーション向けチップ10選」を紹介する（順不同）。これらのデバイスは、エッジデバイス上でマルチモーダル大規模言語モデル（LLM）を処理できるチップから、ビジョン処理に特化し常時オンのアプリケーションの消費電力を最小化できるチップまで多岐にわたる。

複数カメラストリームに対応する

　AmbarellaがリリースしたエッジAIビジョンSoC（System on Chip）「CV7」は、畳み込みニューラルネットワーク（CNN）またはトランスフォーマーネットワークを介して、複数の高品質カメラストリームを同時に処理する。CV7は、同社独自の最新世代AIアクセラレーターに加え、自社開発のISP（Image Signal Processor）を搭載する。このISPは既存のISPアルゴリズムとAIドリブンの機能を両方用いる。Arm Cortex-A73コアを4コア（クアッドコア）、オンチップのハードウェアビデオコーデック、新開発の64ビットDRAMインタフェースを備える。

　Ambarellaは本製品を、アクションカメラやマルチカメラセキュリティシステム、ロボティクス、ドローン、産業用オートメーション、ビデオ会議といったAIベースの民生機器向けに展開する。今後は、テレマティクスや先進運転支援システム（ADAS）などの自動車用途にも拡張する見込みだ。

Ambarellaの「CV7」［クリックで拡大］ 出所：Ambarella

フォールバックCPU

　SiMa TechnologiesがMLSoC「Modalix」の量産を開始した。これに伴い、Modalix上でLLMや生成AIモデルを展開するためのソフトウェアフレームワーク「LLiMa」も提供される。Modalixは同社の第2世代アーキテクチャであり、フルアプリケーションをホストするために設計されたSoCファミリとして提供される。

　Modalixのチップはアクセラレーターとともに、8つのArm Cortex-AクラスのCPUコアを搭載。アプリケーションレベルのコード実行に重要であるだけでなく、特定の演算がアクセラレーターでサポートされない場合に備え、プログラムがCPUにフォールバックできるようになっている。SoC上にはオンチップISPとDSPも統合されている。Modalixは25、50、100、200TOPS（INT8）のバージョンで提供される。最初に市場投入される50TOPSバージョンは、8〜10Wの電力エンベロープで、Llama2-7Bを1秒当たり10トークン以上で実行できる（関連記事：EE Times Japan「数時間で実装できるエッジAI　推論性能は「Jetson」に比べて10倍」）

オープンソースのNPU

　SynapticsのIoTエッジ向けSoC「Astra」シリーズは、アプリケーションプロセッサからマイクロコントローラー（MCU）レベルまでを網羅する。

　中でも、マルチモーダルAIプロセッサ「SL2610」は、スマート家電、POS（Point of Sales）端末、ドローンといったアプリケーションを想定している。ファミリーの全製品はArm Cortex-A55コアを2基搭載し、一部はニューラルプロセッシングユニット（NPU）サブシステムを備える。搭載されている「Coral」NPUはGoogleが開発したスカラー命令セットを持つオープンソースRISC-V CPUであり、Synaptics独自開発のAIアクセラレーター「T1」と併用できる。T1はトランスフォーマーやCNN向けに1TOPS（INT8）の性能を提供する。

Synapticsの「SL2610」［クリックで拡大］ 出所：Synaptics