美光警告 AI ストレージの壁が悪化、HBM は Meta Llama 3 のトレーニング中断の約 17% を占める

TrendForce の報告によると、Hot Chips 2026 で、Micron は AI 計算能力の進展がストレージの向上を上回っていることを強調し、「ストレージの壁」の課題がますます顕著になっていると述べました。Micron のフェロー Raghu Sriramaneni は、AI アクセラレーターの計算能力が約 2 年ごとに 3 倍に向上する一方で、HBM の帯域幅の増加はその期間中に 2 倍に満たないため、ギャップがさらに拡大する可能性があると指摘しました。HBM への依存が深まることは、信頼性の問題も引き起こします。Micron は Meta Llama 3 のデータを引用し、HBM の故障が予期しないトレーニング中断の約 17% を占めると述べています。ファジー計算とストレージの境界に関する新しい設計がボトルネックを突破するのに役立つかもしれません。

HBM の拡張は、面積と供給の圧力ももたらします：最新世代のパッケージは、2 つの GPU と 8 つの 12 層 HBM4 スタックを統合しており、ストレージは半導体面積の約 90% を占め、GPU が占める面積の 8 倍を超えています；同等の容量を HBM で実現するには、標準の DDR5 DRAM の 3 倍のウェハが必要です。熱管理も重要な制約となっており、液冷や超薄型チップなどのソリューションが探求されています。

Micron は、ストレージ最適化を目指した SerDes や die-to-die PHY、より大きなサイズの SiP やガラス基板の先進的なパッケージ、液冷、混合ボンディングなどの革新を推進しており、熱抵抗を低減しデータスループットを向上させるためにフュージョンボンディングを開発しています。