NVIDIA CMXとは?なぜAI推論に必要で、キオクシアCM10が何を担うのか——KVキャッシュがHBMから溢れる問題と2026年Vera Rubinの新メモリ階層を元キオクシア研究開発者が解説

もふもふ不動産のもふです。僕は元キオクシア(旧東芝メモリ)の半導体研究開発者です。ソニー・キオクシアで16年、先端半導体の研究開発に携わり、キオクシアではNOR型フラッシュや抵抗変化型メモリ(ReRAM)の研究開発を経て、世界初の48層3次元フラッシュメモリ「BiCS FLASH™」の量産立ち上げに参画しました(2019年まで在籍)。発明者として特許出願も行っています。詳しくは研究開発者としての経歴ページをご覧ください。

「NVIDIA CMX」という言葉を最近よく見かけませんか? 2026年3月のGTCでNVIDIAが発表した「コンテキストメモリストレージ(Context Memory Storage)」のことで、2026年後半の次世代AIサーバー「Vera Rubin」に組み込まれる新しいメモリ階層です。そして僕の古巣キオクシアが、2026年7月30日にこのCMXに対応する初のPCIe® 6.0 SSD「KIOXIA CM10シリーズ」を発表しました。ただ、プレスリリースを読んでも専門用語の羅列で、「そもそも何に困っていて、なぜCMXが必要なのか」が伝わらないんですよね。この記事では、AIが推論の時代に入って「記憶」が溢れるようになった問題から順番に、CMXの正体と、それをキオクシアが作っている意味を、フラッシュメモリの現場にいた元研究開発者の視点でわかりやすく解説します。

問題点: AIが「推論」の時代に入り、会話の記憶(KVキャッシュ)が爆発した

まず「何に困っているのか」から。ここ数年のAIは、モデルを作る「学習」から、ChatGPTのように実際に使われる「推論」へと主戦場が移りました。そして推論には、学習とは別の厄介な問題があります。AIは会話の「ここまでの中身」を覚えたまま次の返事を作らなければならない、ということです。

少しだけ仕組みの話をすると、ChatGPTのようなAI(大規模言語モデル)は、返事を1単語ずつ作るたびに「ここまでの文章すべて」を参照します。毎回ゼロから読み直すと計算量が爆発するので、一度読んだ文章の「解釈済みデータ」をメモリに置いておいて使い回す——これがKVキャッシュ(Key-Valueキャッシュ)です。人間でいえば、会議の途中でここまでの議論をメモしておくようなものですね。

問題は、このKVキャッシュが会話が長くなるほど・読ませる資料が長いほど・同時に相手をするユーザーが増えるほど、どんどん膨らむこと。最近のAIは何十万〜何百万文字のコンテキストを扱い、AIエージェントは何時間も作業し続けます。NVIDIA自身が「コンテキストが数百万トークンに伸びると、その履歴を計算し直すコストは容量の伸びよりはるかに速く増える」と説明しているほどです。

ここでメモリの前提を整理しておきます。AIサーバーには3種類のメモリがあります。

• HBM(広帯域メモリ)——GPUに直結された超高速メモリ。ベラボウに高価で、容量は3つの中で一番小さい(Rubin GPUで最大288GB)。電源を切るとデータは消えます。
• DRAM——CPUとやり取りする高速メモリ。高価で、容量は中くらい。これも電源を切ると消えます。
• SSD(NANDフラッシュ)——スピードは遅いけれど、安くて超大容量。電源を切ってもデータが残るのはこれだけです。

役割としては、HBMとDRAMが「机の上」、SSDが「倉庫」。これまでKVキャッシュは「机の上」=HBMに置かれていました。ところが机の上はすぐにいっぱいになる。長時間働くAIエージェントの記憶なんて、288GBではあっという間に溢れてしまいます。

技術的困難: HBMは増やせない、溢れた記憶は捨てて計算し直すしかなかった

「じゃあHBMをもっと積めばいいじゃん」と思いますよね。ところが、これができないんです。

上の写真を見てもらうと分かるように、AIサーバーの基板はすでにぎっしり満員で、HBMを追加で載せる物理的なスペースがほぼありません。しかもGPUは1個でドライヤー1台分クラスの発熱をするため、水冷でないと冷やせない(このトレイは100%液冷です)。熱源のすぐ隣にメモリを増設するのも難しい。HBM自体の積層数を増やす手もありますが、こちらも技術的にどんどん苦しくなっていますし、そもそもHBMは値段のケタが違う。

では、HBMから溢れたKVキャッシュはどうなっていたか。捨てるしかありませんでした。そして捨てた記憶がまた必要になったら全部計算し直し。これがめちゃめちゃ遅くて、電力もドブに捨てることになる。みなさんも、AIと長く会話していると応答が遅くなったり、前に話したことを忘れたようにバカになったと感じたことがあると思います。サービス側は記憶の置き場が足りないぶん、長くなった会話の記憶を削らざるを得なかった——その一因がこの問題で、CMXはそれを減らす手段です。

「DRAMや普通のSSDに逃がせばいい」というのも簡単ではありません。NVIDIAは従来のメモリ階層を、G1(GPUのHBM)→G2(CPUのDRAM)→G3(サーバー内蔵SSD)→G4(共有ストレージ)と整理したうえで、KVキャッシュはG1〜G3の容量をすぐ使い切り、G4の共有ストレージまで降ろすとミリ秒単位の遅延・多段コピー・消費電力増という「受け入れがたいオーバーヘッド」が生じると説明しています。普通のストレージは「データを長期間安全に保存する」ために最適化されていて、短時間だけ大量に出し入れするKVキャッシュには向いていなかったんです。

解決策: NVIDIAがCMX(コンテキストメモリストレージ)を開発——2026年のVera Rubinに搭載

この問題にNVIDIAが出した答えがCMX(Context Memory Storage・コンテキストメモリストレージ)です。2026年1月のCESで「Inference Context Memory Storage」として構想が示され、2026年3月のGTCで「CMX」という名前で正式発表されました。ざっくり言うと、AIサーバーの中に新しく作られた「記憶専用の置き場」。従来のG3(内蔵SSD)とG4(共有ストレージ)の間に「G3.5」という階層を新設し、そこにKVキャッシュ専用に最適化したフラッシュ(SSD)ベースのストレージを置きます。

NVIDIAのジェンスン・フアンCEOはCESの基調講演で、CMXの頭脳となるプロセッサについて「ラック内に非常に高速なKVキャッシュのメモリストアを持てるように、BlueField-4を作った」(筆者訳)と説明し、GTCでは「巨大なコンテキストをまたいで推論するAIシステムには新しい種類のストレージが必要で、ストレージの仕組みを作り直した」という趣旨を語っています(英語報道より要約)。それくらい、NVIDIAにとってKVキャッシュの置き場は本気の課題だったわけです。

仕組みを一段だけ具体的に言うと、CMXはBlueField-4(ストレージ側でデータの出し入れを捌く専用プロセッサ)、Spectrum-X Ethernet(GPU群とCMXをつなぐ低遅延ネットワーク)、DOCAやDynamo(どのKVキャッシュをどの階層に置くかを管理するソフトウェア)で構成され、サーバー群(ポッド)全体で共有するコンテキストメモリ階層を作ります。GPUは溢れた記憶をG3.5に退避し、必要になったら計算し直さずにそこから取り戻す。つまり「捨てて計算し直す」から「取っておいて読み戻す」へ変わる。そして重要なのが、この置き場の中身はフラッシュメモリ(SSD)だということ。CMXの登場は、NANDフラッシュがAIサーバーの本丸アーキテクチャーに正式に組み込まれたことを意味します。

ちなみに、それでも「HBMの隣の一等地」を諦めず、NANDそのものをHBMのように積んでGPUの隣に載せてしまおうという規格も動き出しています。こちらはHBF(High Bandwidth Flash)の解説記事で詳しく解説しています。

何がいいのか——処理量5倍・電力効率5倍、GPU1個あたり16TBの「記憶の置き場」

NVIDIAの公式説明によると、CMXを使うと長いコンテキストを扱うAI推論でスループット(処理量)最大5倍・電力効率最大5倍になります。理屈は単純で、記憶の再計算がなくなり、GPUが遊ぶ時間が減るから。「前の話を忘れないAI」と「同じ電力でより多くの会話を捌けるAIサーバー」が同時に手に入る、ということです。

規模感も桁違いです。CESの基調講演では、GPU1個あたり16TBのコンテキストメモリを追加できると説明されました。GPU直結のHBMは最大288GBですから、50倍以上の「記憶の置き場」が外付けされるイメージですね。この仕組みは2026年後半に出荷される次世代AIサーバー「Vera Rubin」プラットフォームの一部として提供され、Dell・HPE・Supermicroなどのパートナー経由でCMX対応製品が2026年後半から展開される予定です。

それを作るのがキオクシア——CMX対応SSD「CM10シリーズ」の中身

CMXの「記憶の置き場」の中身はSSDです。そのSSDを誰が作るのか——ここで僕の古巣キオクシアが出てきます。2026年7月30日にキオクシアが発表した「KIOXIA CM10シリーズ」は、同社初のPCIe® 6.0対応エンタープライズSSDで、プレスリリースに「NVIDIA CMX™コンテキストメモリストレージアーキテクチャーに対応」と明記されています。キオクシアはもともと「安くて大容量だが遅い」フラッシュを高速化してAIの本丸に食い込む戦略を取ってきましたが、CMXの登場でその受け皿がNVIDIAのサーバー設計の中に正式に用意された、という構図です。

CM10のポイントを整理します。

• PCIe 6.0対応——PCIeはGPUやCPUとSSDをつなぐ基本規格で、世代が上がるごとに速度が2倍になります。これまでのAIサーバーではSSDの接続はPCIe 5.0が主流でしたから、データの通り道が倍速になったということ。KVキャッシュのように頻繁に出し入れする用途では、この通り道の太さが効きます。
• 性能は前世代比で大幅向上——前世代のCM9シリーズと比べ、シーケンシャルリード最大約92%向上・ランダムリード最大約85%向上。ほぼ倍ですね。
• 容量は1.60TB〜61.44TB——用途に応じてE3.S・E1.S・2.5インチの3形状を用意。GPU1個あたり16TBの記憶置き場を作るには、この大容量が要ります。
• 液冷対応——E3.SとE1.S(9.5mm)は、コールドプレートによる直接液冷(DLC)方式に対応。SSDまで水冷で冷やす時代になったわけで、AIサーバーの発熱のすさまじさが伝わってきます。
• 耐量子計算機暗号をサポート——CNSA 2.0準拠。将来、量子コンピューターで暗号が破られる時代に備えたセキュリティです。

なお、キオクシアはCMX用の「容量で受け止める」CM10に加えて、GPUが直接細かいデータを超高速に読む「速度で応える」GP1シリーズも同じ時期に発表しています(記事末尾で紹介します)。

なぜキオクシアが先行できたのか——第10世代BiCS FLASH(332層)とCBA技術

「フラッシュは遅い」が常識だったのに、なぜキオクシアはNVIDIAのアーキテクチャーに名指しで対応できるほど速いSSDを作れるようになったのか。鍵は中身のフラッシュメモリにあります。

第10世代BiCS FLASH——332層・高速・低消費電力

CM10(E3.S/E1.Sモデル)の中身は、2026年7月3日にサンプル出荷が始まったばかりの第10世代BiCS FLASH™です(2.5インチモデルは第8世代)。3次元フラッシュメモリは、データを入れる「部屋」を高層ビルのように縦に積み上げる技術です。平屋のまま部屋を小さくする微細化が2013年頃に限界を迎え、「土地が広げられないなら高層ビルを建てよう」と生まれたのが3次元化。僕が量産立ち上げに関わっていた頃は48層とか64層——48階建てのビルだったのですが、第10世代はなんと332層。300階建て超えです。

第10世代の公表スペックは(第8世代比)、332層の積層でビット密度59%向上(同じ面積により多くのデータ=安く作れる)、データ転送速度4.8Gbpsで33%向上(フラッシュ単体の読み書きの出入口が高速化)、電力効率は書込時18%・読出時30%改善(データセンターの電力不足のなか強力な武器)。生産は岩手県の北上工場第2製造棟で、サンディスクとの共同開発です。「大容量・高速・低消費電力」という、CMXにそのまま刺さる3点セットを揃えてきた世代と言えます。

CBA技術——メモリと回路を別々に作って貼り合わせ、速度に振り切る

そして高速化の核心がCBA(CMOS directly Bonded to Array)という技術です。フラッシュメモリのチップは、データを蓄える「メモリ部分」と、読み書きを駆動する「回路部分」でできています。従来はこの2つを同じウェハの上に作っていたのですが、これが悩ましい。メモリ部分を作る高温の工程で回路がダメージを受けたりして、どちらかの性能を妥協する絶妙なバランス取りを強いられていたんです。

CBAは発想を変えて、メモリ専用のウェハと回路専用のウェハを別々に作り、あとから銅の配線同士を直接貼り合わせる(ダイレクトボンディング)方式です。別々に作るので、メモリはメモリに、回路は回路に最適化し放題。結果として回路を高速に振り切れて、フラッシュメモリの読み書きが爆速になる。正直、僕が在籍していた頃には「そんなことできるのか」という世界の話で、初めて知ったときはドギモを抜かれました。ちなみに貼り合わせ方式自体は中国YMTCが「Xtacking」として先に実用化していますが(YMTCのNAND技術力の解説記事参照)、サムスン・SK hynix・マイクロンの大手3社に対しては、キオクシア・サンディスク連合が第8世代からの量産投入で先行しています。

NANDの各社が積層数の競争をしているなかで、キオクシアは数年前から「積層数」より「高速化」に舵を切り、NVIDIAのAIアーキテクチャーに食い込む道を選んできました。CMX対応のCM10は、その戦略がついに形になったものだと僕は見ています。

導入状況と投資家目線——売上寄与はいつからか(個人的見解)

導入状況を整理すると、CM10はすでに限定顧客向けにサンプル出荷が始まっており、2026年8月4〜6日に米国で開催されたストレージ業界最大級の展示会「FMS: The Future of Memory and Storage」でも展示されました。NVIDIA側はCMXをVera Rubin世代の一部として2026年後半からパートナー経由で展開する予定です。NVIDIAの次世代アーキテクチャーに名指しで対応するSSDを、この時期に出せている——ここがキオクシアの爆速ぶりを示すところです。

最後に投資家目線の話を。ここからは僕の個人的見解です。まず押さえておきたいのは、CM10は現時点で「サンプル出荷開始」の段階だということ。CMX自体も2026年後半からの展開なので、本格的な売上への寄与は早くて2027年以降になると推測しています。つまり、キオクシアの直近の好決算(2026年5月の決算解説参照)は、まだ普通のSSDだけで叩き出している数字なんですよね。CMX対応SSDが乗ってくるのはこれから、という点は押さえておきたいところです。

• 期待——NVIDIAのサーバー設計に「対応製品」として最初期から食い込めたこと。AIアーキテクチャーに深く組み込まれれば、他のAIサーバーメーカーへの採用にも波及する可能性があります。GPU1個あたり16TBという規模は、NANDの需要としても大きい。
• リスク——CMX対応をうたうこと自体は競合(サムスン・SK hynix・マイクロン)も追随してくるはずで、採用数量が確約されているわけでもありません。特需の規模はまだ何も確定していない、という冷静さは必要です。

それでも、「遅くて安い倉庫」だったフラッシュメモリが、AIの頭脳のすぐ隣まで昇格してきたのは、フラッシュ畑の人間として感慨深いものがあります。さらにキオクシアは、GPUが直接読み書きする超高速SSD「GP1シリーズ」も発表しました。こちらは毎秒1,000万回のランダムリードという、さらに常識外れの製品です。GP1シリーズ(IOPS SSD)の解説記事で詳しく解説しているので、あわせて読んでみてください。

まとめ

フラッシュメモリの仕組み(バケツと水のイメージ)をもっと知りたい方はECC特許訴訟の解説記事を、僕の研究開発者としての経歴は経歴ページをご覧ください。