AIプロセッサの省エネ化をどう実現？ Samsungの解「PIM」を解説：Hot Chips 2026の講演から（1/4 ページ）
2026年8月に開催された「Hot Chips 2026」から、Samsung Electronicsおよび、SamsungとXCENAの講演を紹介したい。いずれも、AIプロセッサのボトルネックである消費電力を下げる方法として、NMC（Near-Memory Compute）というアプローチを提案。2つの講演内容を解説し、AIプロセッサを含むシステムアーキテクチャの将来像を見てみたい。
NMC（Near-Memory Compute）というアプローチ
2026年8月23日〜25日にかけて、恒例のIEEE Hot Chips 2026がこれまた毎年同じく米スタンフォード大学で開催された。ことしもいろいろと話題のチップに関する発表が相次いだのだが、その中でSamsung Electronics（以下、Samsung）単独および、XCENAとSamsungの共同発表の内容をご紹介しながら、昨今のAI Processorに向けた取り組みをご紹介したいと思う。
昨今のAI Processorでは消費電力がボトルネックになっているが、その消費電力の大半はデータ移動が占めているという傾向が顕著である。演算処理そのものよりも、その演算に必要なデータをローカルあるいはリモートメモリとやりとりするための消費電力の方が大きくなっており、なのでどうやってデータ移動を効率化するか？ が大きな課題になっている。
そのための一つの解がCIM（Compute-In-Memory：メモリ素子内に演算器を入れ込む）であるが、これはある意味究極であって制約も多い。そこでもう少し現実的なアーキテクチャとしてNMC（Near-Memory Compute）という方式も考慮されている。例えば2022年のVLSI SymposiumでIntelはLLC（Last Level Cache）にAI用の演算器を組み合わせた構成を提案している。今回、Samsungは単独でLPDDR5Xに演算器を組み合わせた提案を行うと共に、XCENAと共同でNMCをCXLデバイスとして構築するというアイデアを披露した。
図1：Intelの"An 8-core RISC-V Processor with Compute near Last Level Cache in Intel 4 CMOS"（参考）より。右から2番目がIntelの実装したNMCの方式である［クリックで拡大］
SamsungのLPDDR5X-PIM
まずPIMについて。今回SamsungはLPDDR5X-PIMの発表を行った。実は同社は2021年2月に、広帯域メモリ（HBM）にAI用の演算器を組み込んだHBM-PIMをISSCC 2021で発表した事をアナウンスしている。この時はHBM2の一部にPIM（Processor In Memory）を搭載するという形での実装だった（図2）
これをどう使うか？ というと、まずは通常のDRAMアクセスの形でWeightと入力データをDRAM内に格納する。次いで動作モードをPIMモードに切り替えると、内部のPIMがDRAMからデータを取り出して演算を行い、それをDRAMに書き戻す。最後にまたDRAMモードに戻して結果を読み取って完了、というわけだ。
PIM自身は非常に簡単な構造で、加算器と乗算器の2種類のSIMDエンジンから構成される。加算器だけを使えばADD、乗算器だけならMUL、両方連動させるとMAC（Multiply-Accumulate）/MAD（Multiply and ADD）が実施できるというだけである。ただこれでCNNにおける畳み込み演算の大半を実施するには十分であり、2021年の発表ではアプリケーションによって効果は異なるがHBM2をメモリとして利用した場合と比較して、性能で2.54〜2.82倍に引き上げ、消費電力を62％削減できるとされていた。Samsungはこの後もHBM-PIMの開発を続けていて、2023年のISSCCではAMDのInstinct MI100にこのHBM-PIMを搭載する事で、消費電力を85％以上削減したと発表している（図3）
図3：これはISSCC 2023のPlenary SessionにおけるAMDのLisa Su CEOによる"Innovation For the Next Decade of Compute Efficiency"という講演の中のスライドである。これをSamsungではなくAMDが説明しているあたりが象徴的である［クリックで拡大］ 出所：AMD
こういう経緯もあったので、てっきりSamsungはHBM-PIM路線を貫くのかと思ったのだが、意外にも今回LPDDR5XにPIMを実装してきた。理由は？ というと、システム全体の消費電力を下げるためだそうだ（図4）。もっとも、質疑応答で「なぜHBM-PIMから方針転換したのか？」と聞いたところ「別に転換した訳ではなく、HBM-PIMに加えてLPDDR5X-PIMを新たに追加しただけだ」という回答が返ってきた。ただSamsung的にはHBM-PIMはいわばProof of Conceptであり、製品化はLPDDR5X-PIMの方が現実的と考えているようだ（図5）
図4：HBM-PIMはどうしてもHBMベースだから、性能は上がっても消費電力も一緒に増えてしまうのが問題であり、これを解決するにはLPDDR5xベースの方が賢明、という判断らしい［クリックで拡大］ 出所：Samsung Electronics
図5：HBM-PIMは先に説明したようにADD/MULのSIMDエンジンから構成されていたが、LPDDR5X-PIMの方はどうもMAC演算のみに統合したらしい。その代わりINTとFPの両対応になった格好だ［クリックで拡大］ 出所：Samsung Electronics
図5がそのLPDDR5X-PIMの構造図である。一つのDRAMを16 Bankに分割し、おのおののBankにDRAMとPIMをセットで実装している。ALUの方はHBM-PIMより進化しており、FPとINTの両方がサポート可能になっている（HBM-PIMはFP16のみ）
Copyright © ITmedia, Inc. All Rights Reserved.