ハクソク

世界を動かす技術を、日本語で。

メモリはAIチップの部品コストのほぼ三分の二に達した

1日前原文(epoch.ai)

概要

  • Epoch のデータは Creative Commons BYライセンス で利用可能
  • Nvidia、AMD、Google、Amazon のAIチップ部品コスト推計
  • メモリ(HBM) のコスト比率が大幅増加
  • 総部品支出は2024年の 220億ドル から2025年の 520億ドル へ増加
  • HBM 支出増が全体増加の大部分を占める

AIチップ主要部品コストの推移

  • Nvidia、AMD、Google、Amazon によるAIチップ設計対象
  • 4つの主要部品カテゴリ：
    • メモリ(HBM)
    • ロジックダイ
    • 先端パッケージング(CoWoSなど)
    • 補助部品
  • 各チップごとに部品カテゴリ別コストを推計
  • 四半期ごとの生産量推定値を掛け合わせ、カテゴリ別総支出を算出
  • 2024年第1四半期から2025年第4四半期までの部品カテゴリ別シェアを分析

部品カテゴリ別シェアの変化

  • メモリ(HBM) のシェア：52% → 63%へ上昇
  • 先端パッケージング のシェア：19% → 15%へ減少
  • 補助部品 のシェア：15% → 9%へ減少
  • ロジックダイ のシェア：13～14%でほぼ横ばい

総部品支出の増加

  • AIチップ全体の総部品支出：
    • 2024年：約 220億ドル
    • 2025年：約 520億ドル
  • 増加分の大部分を HBMメモリ が占める
    • HBM 支出増：約 200億ドル

データの利用条件と追加情報

  • Epoch のデータは 出典と著者明記 で利用・配布・再利用可能
  • Creative Commons BYライセンス 適用
  • データ分析には前提条件や制約あり
  • CSV形式 でダウンロード可能（2026年5月21日更新）
  • 詳細データやグラフは Epoch 公式サイトで閲覧可能

AIチップ部品コスト動向の意義

  • HBMメモリ の重要性増大
  • 先端パッケージング や 補助部品 のコスト効率化進行
  • AIチップサプライチェーン 全体の消費動向把握に有用
  • AIインフラ投資 や 半導体業界戦略 への示唆

Hackerたちの意見

2年前に96GBのRAMを約250ドルで買ったんだけど、今その同じRAMが1200ドルもするんだよね！

└

消費者がDRAMメーカーが赤字を出してた時に、絶対に最低価格で買ったことを思い出すのはこういうことだよね。それは普通の価格じゃない。2020年初頭の価格崩壊の前は、96GBのDDR5は約450ドルから500ドルくらいだった。DRAMのコストは過去20年間あまり変わってないってことをもう一度言わなきゃいけないね。価格は周期的に上下するだけだから。実際には500ドルから1300ドルに上がったようなもので、消費者は200ドルから1300ドルに上がったように感じてる。CrucialはすでにCXMT製のDRAMを売ってるし、中国もお金を投じてる。次の12〜24ヶ月でメモリバブルが弾けるとは思えないな。赤字のDRAM価格に戻ることはないだろうし、みんなHBMや他の利益が出る製品にシフトするだろうから。低価格帯のDDR5やLPDDR5は中国のファウンドリに流れるだろうね。彼らがうまく作れる方法を見つけたらだけど。改善はしてるけど、業界のリーダーにはまだ遠いよね。通常、メモリメーカーは次のDDR規格を市場に押し出して中国の競争相手を排除しようとするけど、今回は同じようにうまくいくかは分からない。DDR5は他にもたくさんの用途や需要があるからね。

└

去年の10月22日に、クルーシャルの96GB DDR5 5600 MHz SO-DIMM RAMを279ドルで買ったんだけど、今アマゾンでは同じキットが1,048.90ドルで売ってる。

└

数十GBのRAMが安いという以前の前提が完全に崩れたね。おそらく、Optaneのような超高速SSDの価値がもっと上がるだろう。

└

チャンスがあったときにメインサーバーをフルスペックにしなかったのが悔しい。eBayで使い古しのエンタープライズRAMがめっちゃ安かったのに。

└

1年前に256GBのDDR4を搭載した中古PCをいくつか買ったんだけど、そのRAMだけで今は全体の機械より価値があるわ。

└

ラムフレーション

└

1年前に192GBのDDR3を60ドル（1本5ドル）で買ったんだ。今は1本22ドルくらいだから、今日の価格は350ドルくらいかな。いったい誰がDDR3を使ってるんだ？

└

2025年4月に2x16GBで105ドルだったのに、今は600ドルっておかしいよね。

└

私のメインのPCは64GBだよ。2022年の終わり頃に買ったやつ。今の同じRAMの価格を見ると、ほんとに狂ってる。企業は私たちに損害賠償を支払うべきだよ。「自由市場」なんて、事実上の独占や大企業が一般の人を虐げてる時には機能しないからね。

└

ガレージを整理してたら、未使用の4TBのSamsung EVOドライブが2つ見つかったよ。

ゲーマーやPC趣味人には最悪の時期だね、AIに本格的にハマってない人には特に。

└

AIに本格的にハマってる人たちにもね。

└

これ、絶対に自作PC市場を潰すよね。ゲームPCを作り始めた頃、最高級のグラボが750ドル（NZD）だったのに、今じゃGPUだけで1万ドル、さらにRAMに1,000〜2,000ドルかかるとか。昔は手頃な趣味としてゲームPCを始める人が多かったのに、今じゃ一般的な航空機の方がプランBに見えるわ。

└

逆だと思うな。確かに短期的にはホビイストたちが苦しんでるけど、彼らが最先端を押し進めるために投入できる資本は、フォーチュン500企業に比べたら小さい。遅かれ早かれホビイストたちも恩恵を受けると思うよ、特に市場が崩壊したらね。

一週間前に中古のDellサーバーを買ったんだけど、12コアのCPUと32GBのDDR4 ECC RAMがついてて、全体の値段が64GBのDDR RAMだけを買うのと同じくらいだった。こんな馬鹿げた状況が早く終わってほしいな、そうじゃないと他の市場にも影響が出るだろうし。最近、PCケースの売上が40%以上も落ち込んでるって聞いたよ。

└

AIバブルが弾ける頃には、PC市場が取り返しのつかないことになってる気がする。企業向けのパーツを作ってるメーカーは、消費者向けのパーツに戻ることはないだろうし、需要がないからね。利益が出ないデータセンターがあふれてるから、SaaS向けに転用されるだろうし、OnShapeみたいなものがあらゆるアプリケーションに適用されるようになると思う。ほとんどのユーザーは、自分が生成したものをクラウドサービスに保存することにあまり関心がないみたいで、これが「高価な」デスクトップやノートパソコンのハードウェアを持つ代わりに売られる可能性が高い。

└

貧乏な人たちは、RAM関連のコスト上昇のせいで安いスマホから締め出されてるよ。 https://www.cnet.com/tech/mobile/smartphone-sales-to-plummet...

└

別の見方があるよ。もしハイパースケーラーがもっとRAMを使っていて、そのRAMが消費者には利用できないなら、重い処理はすべてクラウドで行われることになる。なんでハイパースケーラーと消費者が同時にRAMを持つ必要があるの？消費者はローカルモデルを動かすためにもっとRAMが欲しいけど、そうするとハイパースケーラーの容量は無駄になっちゃう。

DDR4の構成からは動かないつもりだよ（今持ってる32GBのDDR4 2133MHzのバックアップチップもまだあるし、3200MHzのものに変える前からのやつ）。価格が少なくとも部分的にでも正常に戻るまでね。だから、CPUメーカーにはお金を使わない（5800Xで今のところ十分だし）し、新しいGPUを買う理由もないよ（B580は完璧じゃないけどね）。

└

これが価格の底だとしたら、どうなるんだろう？

ハイパースケーラーたちがもっと垂直統合して、自分たちのファブを作らない理由が気になるな。ファブは10億ドルもかかるけど、今はNVidiaや他の会社からチップを買うのに何百億ドルも使ってるからね。

└

垂直統合すべきかどうかは分からないけど、AppleがiPhoneの新技術をスケールアップする時みたいに、直接キャパシティの拡張に資金を提供する方がいいかも。だけど、ハイパースケーラーやAI企業がこれをやってないってことは、AIの将来の需要に対する彼らの本音を示してるよね。AI企業は大規模な拡張が必要だって言ってるけど、そのための資本リスクを負うことには消極的みたい。AIの人たちからは、チップメーカーが足を引っ張ってるって悲鳴が聞こえてくるけど、実際にその拡張を簡単に資金提供できるのは誰なんだろう？チップメーカーはこのゲームをずっと前からやってるし、サム・アルトマンが7兆ドルのファブが必要だって言った時、AI企業は無茶な主張をするつもりだって明らかにして、信頼性を失った。今必要なのは、彼らが自分たちの膨大な現金のほんの一部をファブの資金提供に回すことだね。

└

ファブを作るのには、必要なノウハウがあっても数年かかる。もしノウハウがなければ、既存のメーカーと競争するためにはさらに実験が必要になる。使えるチップを生産できる頃には、供給不足が解消されてるかもしれない。

└

ファブは、今の最先端技術の中でも最も複雑なものだからね。まさに現代の「ロケットサイエンス」だよ（その一つだけど）。お金を持っているだけじゃ足りない。数十億ドルを使っても、何も得られないことも簡単にある。最近のインテルの苦戦を見てみればわかるけど、彼らは何十年もこのビジネスをやっているんだから。

└

ファブの建設には10億ドル（実際はもっとかかる）と5年が必要なんだ。今すぐ誰かの役に立つわけじゃないよね。

└

ファブのコストは150億から200億ドルで、建設には少なくとも5年かかるんだ。しかも、これらの企業にはその専門知識がないんだよね。

読んでることすべてが、RAMの容量は毎年20〜25%成長するって示唆してるけど、それじゃ足りない気がする。消費者向けの用途でも、スマホやノートPCはRAMを倍にすれば大きく恩恵を受けるはずだし、AIの需要も巨大だよね。これがなくなるとは思えない。今ほど速く成長することはないかもしれないけど、成長が止まるとも思えない。メモリメーカーが自分たちを破産させたくない理由は分かるけど、リスクをモデル提供者やエコシステムの他の人たちに押し付けて、RAMの容量を年間50%くらい成長させる方法があるはずだと思うんだよね。

└

一番のリスクは、中国のCXMLが利益を得て、他が見捨てた市場をキャッチして、コストが正常化し始めた時に競争して他を押し出せることだと思う。20-25%の成長が足りないっていうのも、データセンターの拡張計画が壁にぶつかって大幅に減速し、AIの熱が冷め始めると仮定すれば、そんなに遠くないと思う。短期的には20-25%じゃ足りないかもしれないけど、もし今年中にAIの拡張が止まったら、供給過剰になるだろうね。

└

最近の記事によると、HBMメモリはLPDDRに比べてウエハー面積あたりの効率が3倍低いらしい。でも、帯域幅は3倍以上。もし、みんながコンピュータを1/3の価格で買って、すべてをHBMに切り替えるのが得策だとしたらどうなる？計算とメモリのギャップはずっと広がってきたし、HBMへの痛みを伴う移行が必要なのかも。低いメモリ帯域幅の中間的なコンピュータを3台持つよりも、統計的に少し待って、1/3の価格で新しいコンピュータをみんなで楽しめる方がいいと思う？

└

理論的には、チップコンポーネントの新しい先物市場がここで役立つはず。これにより、DRAM供給者はそのリスクから自分たちを守れるようになるから。

└

OpenAIの契約は、その2年間で吸収されるだろうね。競争の激しい市場で、RAMメーカーが買い手を放置するのは効率的じゃないし。10月前の成長率は正直わからないけど、ここにいる誰かは知ってるだろうね。

誰かにアイデアを与えたくはないけど、今のNvidia 5090って信じられないくらいお得じゃない？5090のVRAMは世界でたった一つの国でしか作られてないんだ。50xxシリーズは特別で、そのRAMが特定の素材にめっちゃ依存してるからね。4090や3090とは違って、そっちのVRAMチップは何年も前からあるし。もしDDR7 VRAMに不足や中断があったら、それを必要とするGPUは価値が爆上がりしそう。これを投稿したことを後悔しないといいな、自分も一つ買いたいから…

└

昨年の間にコストが300%も上がったよ。

└

もし買えるなら！RTX 5090はH200より速いよ。ただ、RAMが少ない（32対141）、NVLinkがないし、技術的にはデータセンターで使うことが許可されてない。データセンター用のGPUは80%のマージンで売られてる。めっちゃ高すぎるけど、需給の法則には逆らえないから、こうなってるんだよね。

└

4000ドル以上で信じられないくらいお得な取引？

これの面白い点は、AIの推論とトレーニングが、技術革新なしで約3倍のハードウェアコスト削減（おそらくトータルコストで約2倍の削減）に繋がる可能性があるってこと。需要に応じてDRAM供給が追いつくのを待つだけだね（製造のスケールアップか、現在の製造ペースで需要の急増を満たすのを待つか）。

└

「GPU」モジュールやそれにハンダ付けされたDRAMのような資本支出要素の寿命や再生可能性はどうなの？

└

2-3倍の改善なんて、まだまだ始まったばかりのトレーニングの進化には全然及ばないよ。

└

供給が需要に追いつかないね。少数のDRAMメーカーがこの状況を終わらせるインセンティブなんてあるのかな？ 法的独占が勝ち取るとこうなるんだよね。心配しないで、特許は数十年後には切れるから。私たちの孫たちはDDR5がまた安くなるのを見ることができるよ。システムはちゃんと機能してる。

└

なんで新しいファブがいつ稼働するかの予測がまだ出てこないんだろう。ファブの建設時間はかなり予測可能なプロセスだから、調べるのはそんなに難しくないはずなんだけど。難しいのは、今後のメモリ需要が現在のレベルを維持するのか、さらに増えるのか、また減るのかってことだね。

└

代替の浮動小数点フォーマットが普及するのかな。IEEEの浮動小数点は、幅が狭い（<= 16ビット）とひどいからね。ポジットみたいな浮動小数点フォーマットは、16ビットや8ビットでずっと良い結果を出すんだ。もし32ビットじゃなくて16ビットでトレーニングできて、IEEE32からIEEE16に移行するよりもずっと小さい誤差ペナルティで済むなら…

└

約3倍のハードウェアコスト削減への道 ほんとに？そのコスト削減が実現するまでどれくらい待たなきゃいけないの？

└

メモリメーカーは需要を大幅に拡大しないよ。彼らのビジネスの性質上、市場を供給不足に保つことが重要だから、そうしないと次の供給過剰で潰れちゃう。代わりに、供給はモバイルやパーソナルコンピューティングなどの利益が少ないセグメントから回されるんだ。

└

サム・アルトマンの巧妙な策略でメモリ市場を独占しようとしてたけど、思わぬ結果になったみたいだね。

メモリメーカーは特許の戦争資金を持ってるから、余剰のファブ容量があってメモリ製造に参入したいと思っても、膨大な特許との戦いが待ってる。ほとんどのメモリ会社は、互いに特許侵害を交換する裏取引をしてるし、新しいメモリメーカーがライセンス費用で沈まないで生き残るのは難しいんじゃないかな。

よりメモリ効率の良いトレーニングと推論の手段に注目するいいタイミングだね。AppleのSeedLMは、推論のメモリ効率に関して面白いアプローチだと思う。これをトレーニングに組み込んで、トレーニング後の圧縮ステップじゃなくなるような試みを見てみたいな。