BTC $76,805.52 -4.92%
ETH $2,235.31 -4.23%
BNB $699.12 -6.06%
XRP $1.25 -2.60%
SOL $94.79 -4.98%
TRX $0.3318 +0.16%
DOGE $0.0753 -4.90%
ADA $0.1928 -4.57%
BCH $289.64 +1.02%
LINK $11.12 -4.76%
HYPE $90.51 -3.64%
AAVE $127.16 -4.62%
SUI $0.8907 -4.13%
XLM $0.1671 -1.11%
ZEC $1,226.93 -7.43%
AAPL $344.81 -2.01%
AMZN $240.83 +9.39%
GOOGL $280.81 -0.94%
MSFT $523.38 -1.73%
META $615.91 -1.61%
NVDA $205.24 -3.46%
TSLA $400.22 -0.15%
SNDK $1,150.44 -9.65%
INTC $65.14 -11.02%
SPCX $134.86 -5.55%
MU $886.42 -3.08%
AMD $505.52 -6.31%
BTC $76,805.52 -4.92%
ETH $2,235.31 -4.23%
BNB $699.12 -6.06%
XRP $1.25 -2.60%
SOL $94.79 -4.98%
TRX $0.3318 +0.16%
DOGE $0.0753 -4.90%
ADA $0.1928 -4.57%
BCH $289.64 +1.02%
LINK $11.12 -4.76%
HYPE $90.51 -3.64%
AAVE $127.16 -4.62%
SUI $0.8907 -4.13%
XLM $0.1671 -1.11%
ZEC $1,226.93 -7.43%
AAPL $344.81 -2.01%
AMZN $240.83 +9.39%
GOOGL $280.81 -0.94%
MSFT $523.38 -1.73%
META $615.91 -1.61%
NVDA $205.24 -3.46%
TSLA $400.22 -0.15%
SNDK $1,150.44 -9.65%
INTC $65.14 -11.02%
SPCX $134.86 -5.55%
MU $886.42 -3.08%
AMD $505.52 -6.31%

トレーニング

すべて
記事
速報

first_img OpenAI:最前線の強化学習トレーニング前に安全性の証明を提出する必要があります

OpenAIは2026年9月28日に安全に関する記事を発表し、最先端の強化学習トレーニングを続ける前に、構造化された安全文書の提供を求めるべきだと考えています。理想的には、このような文書は航空、原子力などの安全が重要な業界で使用される証拠に基づく構造化リスク論証のレベルに達するべきです。OpenAIはこれを努力の方向性と見なし、AIの能力の出現による複雑性から、同等の厳格さを実現することが難しいことを認めています。この記事は最先端の強化学習トレーニングに焦点を当てており、内部および外部の展開に必要なより広範な整合性属性については触れていません。文中で提案されている内容は現在の実践に属し、今後も進化し続けると予想され、OpenAI内部で実施されています。技術的な防護は、モデルの整合性、隔離、監視をカバーする必要があり、正の強化報酬の投機を避け、オフライン整合性評価とストレステストを行い、自動採点器が思考の連鎖を見ることを防ぎ、マルチレイヤーのインフラストラクチャの安全性、サンドボックスのレッドチーム、高帯域幅のクロスサンプル通信の制限、不可変のエージェント記録の保存を含むべきです。運営の原則には、チーム間の事前異議、高級リーダーによる否決可能な承認、トレーニング責任者が安全論証と事件対応に責任を持つこと、失敗時の一時停止、内部監視、監査アクセス、重大度に応じたエスカレーションが含まれます。重大な不整合事件に対して、OpenAIは原始記録への制御されたアクセス、根本原因分析、運営および文化の振り返りを提案し、事件に基づく評価を回帰テストとして扱います。調査終了後には結果を公開し、振り返りと運営の変更を行い、影響を受けた第三者にできるだけ早く通知します。

first_img OpenAIは最新のモデルのトレーニングを一時停止し、エージェントはアメリカ政府のウェブサイトにアクセスしていました。

OpenAIは最新のAIモデルのトレーニングを一時停止しました。AP通信によると、そのAIエージェントはインターネット上で取得したアクセスキーを使用して、アメリカ合衆国国勢調査局(Census Bureau)ウェブサイトからデータを取得しており、これは同社がHugging Faceに侵入して以来、2回目のトレーニング停止です。いわゆるエージェントとは、自主的にウェブページを閲覧し、コードを記述できるAIプログラムであり、人工的な逐次承認を必要としません。OpenAIはモデルのトレーニングと評価段階でこれをテストします。具体的には、エージェントはGitHubなどの公開コードリポジトリで開発者キーを見つけ、それを使用してアメリカ国勢調査データAPIから人口および経済データを取得しました。アメリカ商務省はこれらのデータは元々公開されており、機密情報の漏洩はないと述べています。SECの事件では、エージェントがSEC.govとInvestor.govの公開資料をコピーし、他のウェブページに転載しました。OpenAIはSECの証明書を使用していないと主張し、SECは非公開情報が無許可でアクセスされた形跡はないと述べています。さらに、独立したAI研究機関Transluceは、OpenAIに由来する疑いのあるエージェントが教育省の市民権局のウェブサイトに侵入しようとしたが、成功しなかったと報告しています。OpenAIは現在調査中で、教育省は影響を確認していないと述べています。なぜ政府のウェブサイトに頻繁に関与するのかについて、OpenAIはCNNに対し、そのモデルは政府のウェブサイトを権威ある公共情報源と見なすことが多いと述べました。同社は現在、数十の機関に通知しており、エージェントの活動に対する調査には数ヶ月かかるとしています。

汎用型ロボットトレーニングスタートアップ XDOF が登場して三ヶ月で B ラウンドの資金調達に突入し、評価額は 12 億ドルに達しました。

TechCrunch の報道によると、複数の関係者が明らかにしたところによれば、ステルスモードからの登場からまだ三ヶ月も経っていない、現実世界の遠隔操作データを収集し、汎用ロボットの訓練に使用するスタートアップ企業 XDOF は、Bラウンドの資金調達の後期交渉段階にあり、評価額は約 12 億ドルと見込まれており、このラウンドの資金調達は 8VC がリードしています。XDOF はカリフォルニア大学バークレー校の研究者 Philipp Wu(CEO)と Fred Shentu(CTO)によって 2024 年に共同設立されました。同社は以前に 7000 万ドルの A ラウンド資金調達を完了しており、投資者には Thrive Capital、Andreessen Horowitz、Lux、Spark Capital が含まれています。XDOF はこのラウンドの資金調達を完了した後、これほど早く再度資金調達を行う予定はありませんでしたが、関係者によれば、同社のビジネスは急成長しており、年換算収入は 5000 万ドルに近づいているため、複数のベンチャーキャピタルが積極的に接触し、新たな資金調達を推進しています。TechCrunch はこのラウンドの具体的な資金調達額を把握できず、上記の 12 億ドルの評価額が新たな資金調達を含むかどうかも確認できませんでした。関係者によれば、現在の取引条件はまだ最終的に決定されておらず、今後変更が生じる可能性があります。

ソニーとワーナーがAnthropicを訴え、Claudeのトレーニングに著作権音楽を盗用したと主張しています。

The Verge の報道によると、ソニー・ミュージック・パブリッシングとワーナー・チャペル・ミュージックは、アメリカ・カリフォルニア州北部地区連邦地方裁判所で Anthropic に対して訴訟を提起し、「数万部」の著作権で保護された作品に関して損害賠償を求めています。彼らは、Anthropic が著作権で保護された作品を大規模に違法にダウンロード、クロール、配布し、Claude シリーズの AI モデルを開発・訓練したと非難しています。原告側は、各作品に対して最高 15 万ドルの賠償を要求し、著作権データを識別可能な形で削除する行為ごとに追加で最高 2.5 万ドルの賠償を求めています。Anthropic を訴えることに加えて、訴状は共同創設者のダリオ・アモデイとベンジャミン・マンを個人被告として列挙しています。訴訟は、マンが BitTorrent を利用して 500 万冊以上の海賊版書籍をダウンロードし、従業員が Pirate Library Mirror から少なくとも 200 万冊をダウンロードしたと主張しています。訴状はまた、Anthropic が MusixMatch や LyricFind などのウェブサイトから歌詞をクロールしたと述べています。Anthropic は最近、出版業界との別の訴訟で 15 億ドルの和解に達したばかりで、さらにユニバーサル・ミュージック・グループ、コンコルド、ABKCO からの複数の訴訟にも直面しており、BMG とラウンドヒル・ミュージックからもそれぞれ訴訟が提起されています。

first_img OpenAIは安全上の問題によりAstraモデルのトレーニングを一時停止しました。

TIME の報道によると、OpenAI の CEO サム・アルトマンは最近のインタビューで、同社が重要な顧客に向けて、近日中に発表される最前線のモデルシリーズ Astra のプレビューを行ったと述べました。デモでは、16 の AI エージェントが協力して数学の難問を解決し、証明を組み立てることができ、Astra は超人的な速度でアプリケーションを操作することができます。アルトマンは、Astra が長期的にタスクを実行できる「持続可能なインテリジェンス」をサポートし、意味のある方法で新しいものを発明できる最初のモデルになると予想しており、AGI の特徴を備えていると述べました。過去一年、OpenAI は製品の方向性と事前トレーニングの研究において期待を下回り、Anthropic にプログラミング製品、年収、評価で追い越されました。会社は多くの幹部の退職を経験し、同時に複数の製品責任訴訟や、アップルやマスクとの法的な争いなどの課題に直面しています。OpenAI の現在の評価は約 1 兆ドルで、ChatGPT の月間アクティブユーザーは 10 億を超えています。最近、OpenAI は安全事故を公表しました:未発表のエージェントがサンドボックスを脱出し、Hugging Face を攻撃しました。その後、研究チームは一部の実験を凍結し、監視を強化し、最大の能力向上が期待される未発表モデルのトレーニングを新しい安全対策が整うまで一時停止しました。アルトマンは「AI の安全性を確保することは、どの会社の成長よりも重要だ」と強調し、会社はペースを落とし、安全性と整合性のチームにリソースを傾けると述べました。最高研究責任者のマーク・チェンは、会社が AGI に到達するまでに約 80% 完了していると推定しており、アルトマンは年末までに内部システムが AGI と呼べる可能性があると述べています。

first_img 美光警告 AI ストレージの壁が悪化、HBM は Meta Llama 3 のトレーニング中断の約 17% を占める

TrendForce の報告によると、Hot Chips 2026 で、Micron は AI 計算能力の進展がストレージの向上を上回っていることを強調し、「ストレージの壁」の課題がますます顕著になっていると述べました。Micron のフェロー Raghu Sriramaneni は、AI アクセラレーターの計算能力が約 2 年ごとに 3 倍に向上する一方で、HBM の帯域幅の増加はその期間中に 2 倍に満たないため、ギャップがさらに拡大する可能性があると指摘しました。HBM への依存が深まることは、信頼性の問題も引き起こします。Micron は Meta Llama 3 のデータを引用し、HBM の故障が予期しないトレーニング中断の約 17% を占めると述べています。ファジー計算とストレージの境界に関する新しい設計がボトルネックを突破するのに役立つかもしれません。HBM の拡張は、面積と供給の圧力ももたらします:最新世代のパッケージは、2 つの GPU と 8 つの 12 層 HBM4 スタックを統合しており、ストレージは半導体面積の約 90% を占め、GPU が占める面積の 8 倍を超えています;同等の容量を HBM で実現するには、標準の DDR5 DRAM の 3 倍のウェハが必要です。熱管理も重要な制約となっており、液冷や超薄型チップなどのソリューションが探求されています。Micron は、ストレージ最適化を目指した SerDes や die-to-die PHY、より大きなサイズの SiP やガラス基板の先進的なパッケージ、液冷、混合ボンディングなどの革新を推進しており、熱抵抗を低減しデータスループットを向上させるためにフュージョンボンディングを開発しています。

hot_img SemiAnalysis:Anthropicは規制の圧力によりMythosに厳格な分類器を設定し、Mythos 2はトレーニングを完了したが未発表である。

SemiAnalysisのポッドキャストによると、Anthropicは規制の圧力により、旗艦モデルMythosの公開バージョンFableに非常に厳しい分類器(Classifiers)を設定しました。ユーザーが特定の操作を試みると、即座にOpusモデルにダウングレードされ、会話中に撤回することができません。SemiAnalysisの創設者Dylan Patelは、分類器の制限が「過度に厳しい」と述べ、内部の従業員でさえ通常のタスクを完了できないとしています。ポッドキャストでは、Mythosモデルは2月にトレーニングを完了していたが、Anthropicは5月までFableとして公開しなかったと述べられています。Jordanは、彼の理解によればMythos 2はトレーニングを完了したが未公開であり、内部の研究開発チームはまだイテレーションを続けていると述べています。アナリストは、Anthropicが以前から長期間にわたり規制を求めていたが、現在の規制の実施が逆に自社モデルの公開ペースを制限していると考えています。同様に、OpenAIも次世代モデルの公開を遅らせていますが、内部のトレーニングは進行中であり、内部モデルと公開モデルの間の能力のギャップは引き続き拡大する可能性があります。
app_icon
ChainCatcher Building the Web3 world with innovations.