ハイレベルマイコン講座【組み込みAI編】(1):「マイコンで実現するAI ――「組み込みAI」とは」の「AIの仕組み」で解説したように、人工のニューロンは複数の入力を持っており、各入力はそれぞれ異なる「重み」が定義されていて、入力の値に「重み」を乗算して、合算する構造になっています。
人工ニューロンは、入力層、隠れ層、出力層の複数の層に加え、各層は複数のニューロンで構成されます。1つのニューロンに入ってくる情報は、前段の複数の層のそれぞれ情報に、それぞれの重みを乗算した結果の合算になります。
抽象的で分かりにくいと思いますが、これをハードウェアのAIアクセラレーターの演算に置き換えると、1つのニューロンに相当するハードウェアの要素に入力される情報は、「前段の情報」×「重み」の合算、すなわち膨大な量の積和演算の結果になります。
すなわち、AIアクセラレーターは膨大な積和演算を、高速かつ低消費電力で処理するハードウェアなのです。実際は、積和演算だけでなく、もっと複雑な処理が加わってきますが、簡単に理解するには、「AIアクセラレーター=高速、低消費電力の膨大な積和演算器」と考えてもよいでしょう。
ちなみに、今、ちまたで話題になっているAIデータセンターとは、非常に高性能な計算センターで、膨大な積和演算器とメモリ(記憶装置)で構成されています。そのため、想像を絶する電力を消費し、発熱します。そこで、大容量の電源インフラと高度な冷却システムおよび、それらを設置するための広大な土地が必要になります。
通常のCPUにも積和演算の機能はあります。例えばArm Cortex-Mプロセッサだと、SIMD演算です。SIMDは「Single Instruction, Multiple Data」の略で、単一命令/複数データ処理命令の意味になります。簡単に言うと、1つの命令で複数のデータをまとめて同時に計算できる命令です。非常に優れた積和演算機能です。しかし、AI演算では、SIMD演算でも、処理能力は不足します。SIMD演算だけを使ってAI演算を行うと、膨大な時間と電力が必要になり、現実的ではありません。さらに、その期間は、他の一般的な処理ができなくなります。そこで、AI演算に対応できる積和演算に特化し、低消費電力を実現できるAIアクセラレーターという概念が考え出されました。
CPUにオプションとして追加されるAIアクセラレーターは、高速かつ低消費電力で積和演算を実行できる命令群です。AI演算には、この新命令を使うことによって、短時間かつ低消費電力でAI演算を実行できます。CPU以外に単独ハードウェアとして設けられるAIアクセラレーターは、CPUとは完全に独立して、短時間に低消費でAI演算を実行できます。
AIアクセラレーターのメリットを挙げると次のようになります。
Copyright © ITmedia, Inc. All Rights Reserved.
記事ランキング