AIチップのコスト、もう6割がメモリ！？ Epoch AI が出した『HBM が GPU を食い始めた』ヤバいグラフを整理するよ

やっほー、ぼくてんびん丸！夜枠だよ。今日のテーマは、業界の人がじわじわ「これマズいかも」って言い始めてる話。AI チップのお値段、もう半分以上がメモリで決まる時代に入ったらしいんだ。

2026年5月21日に Epoch AI が公開したデータレポート（著者は Venkat Somala さん）が結構ザワッとした内容で、ぼくは数字見てちょっとポカンとしちゃったよ。整理するね。

何があったの？

Epoch AI は、ふだん AI モデルの学習計算量とかを地味〜にトラッキングしてる調査機関なんだけど、今回は NVIDIA・AMD・Google・Amazon が設計した AI チップ全部の平均 で、「1チップに使われてる部品の原価を、どの部品が何％食ってるか」を生産量加重で計算してくれたんだ。

その結果出てきたのが、こんな数字：

たった2年で 11ポイント上昇。半導体業界で2年で11ポイント動くのって、わりとガチで地殻変動レベルなんだよ。

絶対額もエグくて、AI チップ向けの HBM への支出は 2024年の約120億ドル → 2025年の約320億ドル で、約2.7倍。チップ全体のコンポーネント支出（HBM 含む）は 220億ドル → 520億ドル で、こっちも2倍以上膨らんでる。要するに、業界全体が「AIチップ買うぞ〜！」って買い込んでて、その中身が どんどんメモリ偏重になってる ってことなんだ。

なんでメモリだけこんなに高くなるの？

ざっくりいうと、HBM（高帯域メモリ）の供給がガチで足りてないからなんだよ。

ぼくの解釈で言うと、最近の LLM って、推論の時にモデルの重み（数百GB〜TB級）をぜんぶ GPU のメモリに乗せて、コンテキスト長も100万トークンとか平気で使うじゃない？ あれ、「計算量」よりも先に「メモリの帯域と容量」がボトルネックになるんだ。だから NVIDIA も AMD も Google も、1枚あたりのメモリ容量と帯域を盛りに盛ってる。

具体的には HBM3 / HBM3e っていう積層メモリを GPU の真横にギチギチに貼ってる構造なんだけど、これを作れるのが世界で SK hynix・Samsung・Micron の3社しかない。AI 各社がここに群がるから、当然値段は上がる。供給不足＋需要爆増のダブルパンチで、HBM 単価がこの2年でずっと右肩上がりなんだ。

結果、「計算ユニット（GPU コア）よりメモリの方が高い」っていう逆転現象が起きてる。AI チップって名前なのに、原価の主役はもうメモリ。ロジック側の NVIDIA がメモリ屋さんに利益を渡してる構図になってきてるってことなんだよ。

ハイパースケーラーの財布が悲鳴

このコスト上昇、ちゃんとビッグテックの決算にも染み出してて、Epoch AI のレポートでは具体名がふたつ挙がってる：

Microsoft の 250億ドルって、ざっくり日本のスタートアップ業界の総調達額を超えるレベルの金額が、メモリ値上げだけで 1社のお財布から消えるんだよ。普通に怖い数字だよね…。

しかも Epoch AI は 「2026年もメモリ比率はさらに上がる見通し」 って書いてる。つまり今の 63% って、たぶん通過点で、今後 70% 近くまで行く可能性があるってこと。

ぼくの感想：これ、業界の主役がじわっと入れ替わってる気がする

ぼくが気になってるのは、「AI ブームで儲かってるのは誰か」っていう問いの答えがゆっくり変わってきてるってこと。

これまでは「NVIDIA 一強」ってずっと言われてきたよね。AI ブームの最大の勝者は GPU を売ってる NVIDIA だ、って。でもこのレポートの数字を見ると、NVIDIA が GPU を1枚売るたびに、売値の6割以上が部品代としてメモリ屋さんに渡ってる ってことになるんだ。

ロジック設計の差別化（CUDA エコシステムとか）で粗利は確保してるとはいえ、原価構造として HBM サプライヤーの存在感はもう無視できないレベル になってる気がする。SK hynix の株価が NVIDIA の決算より先に動くみたいなのも、不思議じゃない世界線にじわじわ入ってきてるかもしれない。

それともうひとつ、ぼくが推測で気になってるのは「Google TPU や Amazon Trainium が伸びる余地」ね。HBM が値上がりして NVIDIA GPU が高くなると、ハイパースケーラー各社は「自社設計チップで HBM 周りを最適化したほうが安いんじゃない？」って考え始めるはず。実際 Google の TPU v6 や Amazon の Trainium2 は HBM 帯域を相当工夫してるって話も出てるし、NVIDIA の「メモリ転嫁コスト」が高くなるほど、自社チップの相対競争力が上がる構図なんだ。これは2026〜2027年の業界バランスを変える要素になりそうな気がするよ。

まとめ

• Epoch AI が 2026年5月21日に公開したデータで、AI チップのコンポーネントコストに占めるメモリ比率が 52%（Q1 2024）→ 63%（Q4 2025） に上昇
• HBM 支出は 120億ドル → 320億ドル、AI チップのコンポーネント支出総額も 220億ドル → 520億ドル に膨張
• Microsoft は FY2026 に +250億ドル、Meta は +100億ドル の capex 増額をコンポーネント価格高騰で計上
• HBM を作れるのは SK hynix・Samsung・Micron の3社のみ、供給ボトルネックは当面解消しない見通し
• 「AI 半導体の主役は GPU ロジック」から「HBM メモリ」へ、業界の利益構造がじわっとシフト中

「AI で儲かるのはまずチップ屋」ってよく言われたけど、その先には「じゃあそのチップ屋を儲けさせてるのは誰？」っていう、もう一段奥のレイヤーがあったんだね。次に伸びるのはどこか、ぼくも目をこらして見ておくよ。

きみのお気に入りの AI が動いてる裏側には、こんなお金の動きがあるんだなあ、って一緒に覚えておいてもらえると嬉しいな。それじゃ、また次の記事でね〜！