計算

暗号研究機関 Delphi Digital は 10 月 29 日に報告書『The AI Boom Has a Power Problem』を発表し、著者は Accelxr です。報告書によると、展開可能な AI 計算能力はチップ供給に依存し、電力供給があり、冷却可能で、電力網に接続された場所に依存します。電力はチップよりも短期間で補充するのが難しいため、チップの生産能力は四半期ごとに拡張可能ですが、新しい発電と送電には数年を要します。報告書はデータを引用し、PJM 容量オークションが連続して三回、価格上限でクリアされたことを示しています。最近の二回は、信頼性目標に対して 6.6 から 6.8 GW の不足があり、これはこのオークションの歴史上初めてのギャップです。テキサス州 ERCOT の大規模負荷の待機規模は 2024 年末の 63 GW から 6 月には 474 GW に増加し、その約 90% はデータセンターです。州知事は 8 月に待機中のデータセンターの監査を要求し、その後 ERCOT は 75 MW 以上のデータセンターと暗号マイナーの電力供給承認を一時停止しました。その中には 17 の安定性研究を通過したプロジェクトが含まれています。報告書はさらに、アメリカのデータセンターは 2024 年に全米電力の約 4.7% を消費するとし、LBNL は 2030 年には 9.5% から 15.3% に上昇すると予測し、EPRI は最大 17% に達する可能性があるとしています。1 GW の施設では、チップの減価償却は年間約 28 億から 33 億ドルで、1 日あたり約 800 万ドルに相当します。SemiAnalysis は 2028 年までにアメリカで 40 GW 以上のデータセンター容量が表後自備電源を採用すると予測しています。大型ガスタービンの納期は約 5 年で、GE Vernova、シーメンスエナジー、三菱重工が寡占を形成しており、Wood Mackenzie は 2027 年末までにガスタービンの価格が 1 kW あたり 600 ドルに達し、2019 年の水準の三倍に近づくと予測しています。

Business Insiderによると、AI計算力インフラストラクチャのスタートアップであるHyperbolicが3000万ドルのA-1ラウンドの資金調達を完了しました。IntelのCEOであるLip-Bu Tanと元サムスンの社長Young Sohnが共同設立したWalden Catalystが主導し、Dell Technologies CapitalやGeneral Catalystなどが投資に参加しました。

半導体研究機関 SemiAnalysis は、Huawei の昇騰 950PR の実測結果を発表しました。この機関は 1055 組の大規模モデルで一般的に使用される行列計算を選定し、Huawei 自身の基盤プログラムにより 950PR は自身の理論上の計算能力の 86% を発揮しており、NVIDIA の H100 の 75.5% を上回っています。しかし、実際の計算速度は H100 の 43% に過ぎず、比較的新しい B300 では 21% です。この結果は、DeepSeek の新しく移植された演算子はまだ使用されていません。DeepSeek はソフトウェア側からデータの移動と待機を減少させています。注意計算において、FlashMLA がストレージを調整したことで、元々別々に読み取る必要があった二つのデータを一度に取得できるようになりました。TileLang はチップが計算を行いながら次のデータバッチを事前にロードできるようにします。SemiAnalysis の実測によれば、自動スケジューリングにより一部の小型計算タスクの所要時間が最大で約 40% 減少しました。DeepSeek は MoE 専門家通信を担当する DeepEP も移植しましたが、通信と計算は依然としてメモリ帯域を争奪するため、Huawei はファームウェアのさらなる改善を計画しています。昨年、DeepSeek は Huawei の昇騰チップを使用して R2 のトレーニングを試みましたが、Huawei のエンジニアが現場で支援しても成功しませんでした。問題はチップの安定性、カード間通信、ソフトウェアサポートに関連しています。今年、両者は引き続き協力し、9 月末に DeepSeek は昇騰に適応したコードを 6 セット公開し、10 月には Huawei が DeepSeek のモデル要件に基づいて次世代チップ設計を調整しているとの情報が伝えられました。今回のテストの 950PR は主に推論入力処理を対象としており、DeepSeek は最速で年末に大規模な事前トレーニングに使用する予定の 950DT を準備しています。これまで両者は千カードレベルのテストを行ってきましたが、1 万個以上のチップが連続して大規模モデルのトレーニングを完了するためには、より複雑な協調と安定性の問題を解決する必要があります。

Anthropicは前夜に公開した招股書の後、投資機関や市場関係者がその成長の質、コスト構造、潜在的な評価を評価し始めました。Morningstarの上級株式アナリストMalik Ahmed KhanとPitchBookのアナリストRolfesは、9月30日現在、Anthropicが最近12ヶ月で少なくとも10万ドルの収益を貢献した企業顧客が11900社を超え、前年同期の約950社から増加したと述べています。Khanは、これはClaudeが企業市場での採用が早く、収益成長が際立っていることを反映していると考えています。アナリストは同時に、顧客数の急増だけでは収益の長期的な安定性を示すには不十分であると指摘しています。招股書には顧客の維持に関する詳細なデータが欠けており、開示された純収益維持率も小さな基数の影響を受けており、比較基数が拡大するにつれて、この指標は後退する可能性があります。算力投入はもう一つの焦点です。Morningstarは、Anthropicが現在一定の算力効率と運営効率を示していると考えていますが、一部の計算資源および関連支出はまだ完全には反映されていません；より多くの算力が投入されるにつれて、コストが上昇する可能性があり、収益成長が追いつかなければ、利益率は圧力にさらされるでしょう。PitchBookのアナリストRolfesは、今後の算力契約とインフラのコミットメントの規模が巨大であり、収益成長が持続可能かどうかが利益の見通しを評価する重要な変数であることを警告しています。Atreides Managementのマネージングパートナー兼最高投資責任者Gavin Bakerは、Anthropicが年末までに1000億ドルの年換算定常収益に達する可能性があると述べており、この発言は彼自身の判断であり、会社が発表した業績ガイダンスではないとしています。独立した財務アドバイザー機関deVere Groupの最高経営責任者Nigel Greenは、市場に流布されている2兆ドルの潜在的評価について疑問を呈し、この期待は「ばかげている」とし、インフラ投資、成長の鈍化、将来の資金調達ニーズに注意を払うよう警告しています。2兆ドルは依然として市場の噂であり、招股書はまだ発行価格と発行規模を確定していません。

BitMEXの共同創設者、Flop LabsのCEOであるArthur Hayesは、記事《The Trifecta》の中で、Flop Networkに基づいてAI計算力の現物およびデリバティブ市場を構築する計画を提案しました。彼は現在、世界的に統一された計算力価格基準が不足していると考えており、Flop NetworkはAI推論タスクの計算量、所要時間、及びFLOP支払い費用を記録することで、計算力参考価格FRCRを形成できると述べています。この基盤の上で、ユーザーは最大30日先の計算力を事前に予約し、相応の計算力契約FCUを取引することができ、さらにドル決済の四半期先物および永久契約をサポートします。Hayesは、永久契約および合成ドル安定コインの概念に続いて、AI計算力デリバティブが金融市場で広く採用される第三の革新になることを期待しています。

AnthropicはS-1ファイルで、計算能力が会社が直面している重要な問題であると述べています。十分な計算能力を得られない場合や、効果的に配分できない場合、会社は競合他社と競争力を保つモデルを訓練できない可能性があります。AnthropicはSpaceXなどに料金を支払って計算能力を確保していますが、短期的には需要が供給を上回ると予想しています。

マスク氏は、債務市場の環境の影響を受けて、200以上の新しい計算力クラウド企業が業界の統合を迎え、わずか数社のみが生き残ることができると述べました。

Evan Conradは10月22日に記事「The end of startups」を発表し、副題は「The coming credit crunch」です。Evan Conradは、今後6ヶ月以内にほとんどのAIスタートアップが計算能力を購入できなくなると述べており、世界の計算能力は売り切れであり、産能を得るには新しいクラスターと契約する必要があり、投資適格主体がオンラインの産能を得ることがますます難しくなっているとしています。Evan Conradは、スタートアップは投資適格ではないため、ますます大きな前払いを要求されていると述べ、契約金額の100%を前払いするケースを見たことがあると語っています。その理由は、貸し手とクラウドプロバイダーが追加の信用リスクを負いたくないからです。彼は、投資適格のテナントは少なく、レバレッジをかけ、非投資適格のトークン購入者に再販することで格付けが引き下げられることを「信用のボトルネック」と呼んでいます。彼は、投資適格のGPU購入者は、トークン購入者自体が投資適格であること、または大額の前金を支払うことをますます要求するようになると予想しています。文中では、執筆時に毎時6ドルでB300を購入し、約毎時30ドルで推論を販売できる例が挙げられています。彼はGPUの価格が上昇し、推論層の粗利が低下し、信用の低い顧客がトークンを取得することがますます難しくなると予想しています。彼は、貸し手がGPUクラスターを担保として扱うことを提案し、計算能力の実物引渡し先物市場SF Computeを利用することで、貸し手が流動性帳簿上のGPU時間を担保として使用できるようにし、単一のサービスプロバイダーのクラスターに依存しないようにすることを提案しています。

阿里云の公式アカウントが発表したところによると、大規模モデル企業の階跃星辰は、世界に向けてフラッグシップオープンソースモデル「Step 5 Preview」を発表しました。このモデルは、実世界のインテリジェントエージェントタスクに向けた主要な作業モデルとして位置付けられ、AIプログラミング、ソフトウェアエンジニアリング、専門知識作業、金融などのシーンに強みを持っています。このモデルは、総パラメータ600B、アクティブパラメータ27Bを持ち、スパースMoEを採用し、最長コンテキストウィンドウは1Mで、テキスト、画像、動画を処理できます。記事によると、最近OpenRouterの週次呼び出し量、日次呼び出し量のランキングで世界第二位に位置しています。発表当日、阿里云はDAY0適応を完了したと発表し、チップ、超ノードインスタンス、モデルの共同推論最適化に基づき、灵骏超ノードが推論計算能力を提供します。階跃星辰は自社開発のインテリジェントエージェント強化学習トレーニングプラットフォームを持ち、サンドボックスプラットフォームは阿里云が管理します。このソリューションは、阿里云のインテリジェントエージェントサンドボックスAgent SandboxとコンテナサービスKubernetes版に基づいており、トレーニング時の弾力的計算能力を目指しています。1分間に数万のサンドボックスを作成でき、最大で百万レベルの同時接続に対応し、E2B APIと互換性があり、Kubernetesネイティブインターフェースを提供します。多層イメージキャッシュ、インテリジェントプレスケジューリング、管理リンクの最適化を通じて、ミリ秒単位の申請、分単位で3万のサンドボックスを作成し、サンドボックスのライフサイクルは阿里云のバックエンドで一元管理されます。ストレージに関しては、各Podは15GBの無料一時ストレージから始まり、使用率が70％を超えると毎回30GB自動的に増加し、最大300GBまで対応します。セキュリティ面では、デフォルトでMicroVMレベルの隔離を採用し、計算、ネットワーク、ストレージ、権限をカバーし、ゼロトラスト方式でクラウド製品と大規模モデルインターフェースにアクセスします。記事に示された結果には、イメージ起動時間が90％短縮され、モデル評価周期が週単位から日単位に圧縮され、EBSストレージ費用が平均約40％節約されることが含まれています。ACK One Fleetに依存することで、数十万規模のサンドボックスが同時に安定して運用されることが可能です。

CNBCの報道によると、OpenAIはアラブ首長国連邦からより多くの計算能力を得るための商業契約について交渉を行っています。アラブ首長国連邦の投資家とCoatueがOpenAIの資金調達を主導しています。

HUMAIN 双方は最高 84 メガワットの AI 計算力インフラを共同で展開する計画で、約 2.7 万個の NVIDIA GPU に相当します。NVIDIA Blackwell Ultra チップの展開は 2026 年第 4 四半期に開始され、2027 年には NVIDIA Vera Rubin シリーズチップの展開が予定されています。

《ウォール・ストリート・ジャーナル》が入手したIPO文書によると、人工知能会社Anthropicの上半期の収益は163億ドルで、前年同期は11億ドルだった；上半期の純損失は807億ドルで、前年同期は130億ドルだった。そのうち約720億ドルの損失は、転換社債などの資金調達手段の公正価値変動による会計費用から来ている。文書によると、上半期の計算能力およびインフラ支出は約90億ドルで、2025年の年間関連支出は73億ドルである。今後7〜10年間のクラウドコンピューティング契約支出は約4500億ドルで、さらにGoogleのチップのリースに1600億ドル以上を支払うことを約束している。今後のインフラ支出の約束は6000億ドルを超えており、まだ交渉中の契約を考慮に入れると、さらに最大1500億ドルの増加が見込まれる。上半期の約20%の収益は2社の顧客から来ており、会社は今後の収益が依然として少数の顧客に大きく依存することを予想している。文書には、人工知能モデルが現実に危害を及ぼす可能性があり、災害的事故の損失は保険でカバーできない可能性があること、データセンターの建設がますます組織化された政治的抵抗に直面していることも記載されている。

マスク氏は、SpaceXが2027年に10ギガワットの計算能力をオンラインにすることに「かなり自信がある」と述べ、2027年に20ギガワットを超える計算能力をオンラインにする可能性はゼロではないとしています。

AnthropicのIPO草案によると、同社は計算能力に6,000億ドル以上を投資する予定です。

The Information の報道によると、DeepSeek は Huawei と深い協力関係を築き、次世代 AI チップを共同設計しており、NVIDIA の計算能力に依存しないモデルを構築することを目指しています。関係者によると、Huawei のエンジニアが DeepSeek のオフィスに入り、モデルアーキテクチャやアルゴリズムの要件を理解し、チップがデータ転送と圧縮をどのように処理するかをテストしています。最初の適応チップの目標は昇騰 950DT です。報道は、この動きが中国がアメリカのチップ依存から脱却しようとしている時期に行われていることを指摘しています。台積電のファウンドリとアメリカの輸出規制に制約されているため、Huawei の昇騰 950DT は 2027 年に発売予定ですが、量産は 2028 年まで遅れる可能性があります。チップ不足の問題を解決するために、DeepSeek は TileLang プログラミング言語を使用して CUDA の制限を回避しつつ、禁止されている NVIDIA Blackwell チップを第三者データセンターから取得することを試みています。さらに、DeepSeek はチップチームを編成しており、1000 を超えるプロセッサ規模のクラスターのテストを開始しています。

英偉達 (NVDA.O) は、リヒスーパーコンピュータセンターでフォールトトレラント量子計算の記録的なシミュレーションを完了しました。