推論サービス

智谱は軽量級フラッグシップモデル GLM-5.3 Flash を発表しました。これは DeepSeek V4 Flash に対抗することを目的としており、10 万枚以上の国産チップクラスターを利用して推論サービスを提供します。このモデルのパラメータ規模は約 300B で、GLM-5.3 の約 40% に相当し、DeepSeek V4 Flash とほぼ同等です。MoE アーキテクチャを採用しており、実際に活性化されるパラメータは約 18B で、ネイティブなマルチモーダル能力を備え、画像と動画の入力をサポートしています。また、智谱がコーディング戦略に焦点を当てた後、初めてマルチモーダル能力を持つ新しいモデルです。総合評価スコアは前世代フラッグシップ GLM-5.2 を上回り、Claude Opus 4.8 と同等で、DeepSeek V4 Pro 正式版の関連スコアを上回っています。価格は、入力 1 百万トークンあたり 0.8 元、出力 2.8 元、キャッシュヒット 0.23 元で、GLM-5.3 の約十分の一となっており、オンライン開始前の2週間は半額の特典が提供されます。このモデルは、国産の計算能力に完全に適応しており、オンラインのトラフィックは国産チップによって処理されます。智谱は、クラスターのハードウェア効率と単位トークンコストが主流のNVIDIA GPUと同等のレベルに達していると述べています。このモデルは以前、コードネーム Ox Alpha として海外プラットフォームで匿名テストされていました。

研究機関 SemiAnalysis が発表した分析によると、SpaceX は 2027 年末までに約 10GW の AI データセンター容量を構築する見込みであり、そのうち 50% が推論サービスに使用される場合、1GW あたり年収が 1000 億ドルを超えると仮定すると、年収は 3000 億ドルに達する可能性があります。SpaceX の CEO マスクは最初の財務報告書で、「保守的な見積もり」として 2027 年には 6-8GW が追加され、実際には 10GW を超える可能性があると述べました。SemiAnalysis の推論シミュレーターは、GB300 クラスター上で現在の新興クラウド価格（約 3 ドル/GPU 時間）で運用した場合、OpenAI や Anthropic などの最前線モデル企業は 1GW あたりの推論年収が 1000 億ドルを超え、年次コストは約 120 億ドルになると示しています。マイクロソフトは OpenAI モデルへの完全なアクセス権を持っているため、トレーニングコストを負担することなく、同様の規模の収入を得ることができます。分析によれば、マイクロソフトは 2026 年までに 10GW のデータセンター契約（総額 3000 億ドルを超える）を締結しており、90 日のキャンセル条項を持っているため、契約リスクを大幅に低減しています。SpaceX の建設進捗について、SemiAnalysis はマスクが現場でのガス発電、大型電力変圧器をスキップするなどのボトルネックを克服し、並行施工および調整プロセスの短縮を通じて、建設期間を大幅に短縮すると考えています。テネシー州 Southaven の発電所は、2 月の 27 台のタービン（約 495MW）から 7 月の 69 台（1.7GW）に拡大し、「MiniHard」プロジェクトは約 5 か月で 450-500MW を建設できます。しかし、10GW の目標は土地の承認、ガス供給、設備の納入などの複数の課題に直面しています。この分析はモデル推演に基づいており、実際の実現には不確実性が残ります。

AI代理プラットフォームBankrの創設者deployerがツイートで、Bankrエコシステムプロジェクトに無料のLLM推論サービスを提供するために約10万ドルの資金を調達したと述べています。現在、Bankrエコシステムを構築しているプロジェクトは、すぐに無料の推論クレジットを得ることができます。しかし、正式に配布を開始する前に、チームは「業界全体が気に入る」新機能を先にローンチする予定で、具体的な詳細は後日発表される予定です。