deepmind

Google DeepMind の研究者 Zhengxuan Wu、Yuxuan Li、Oyvind Tafjord、Been Kim は、プレプリント論文「XYEval: Agents say yes to bad advice」を発表し、ユーザーの誤解を招く提案に対するエージェントのパフォーマンスを評価するためのメタ評価フレームワーク XYEval を提案しました。この論文では、「XY 問題」をエージェントのシナリオに拡張し、ユーザーが尋ねるのは自分が試した解法 X であり、実際の問題 Y ではないことを示しています。XYEval は、元のタスク環境と検証可能な回答を保持し、指示に見かけ上合理的だが誤解を招くユーザーの提案を追加します。誤解を招く提案は、生成器が完全なタスクを見た後に生成し、自信のある提案としてではなく、強制的な要求の形式で追加されるため、元のタスクは依然として解決可能です。評価は、τ2-bench、SWE-bench Verified、SWE-bench Pro、Terminal-Bench、Humanity's Last Exam、MCP-Atlas の6つのベンチマークと5つのモデルをカバーしており、その中で τ2-bench の誤解を招く提案は、人工専門家によって策定されたルールに基づいて生成されています。論文によれば、タスクが XY 変異した後のパフォーマンスは大幅に低下し、相対的な低下幅は最大で 46.7% に達します。τ2-bench では、詳細な説明を先に求めてからより良い提案を受け入れるユーザーに対して、パフォーマンスがさらに低下します。モデルが XY 問題を認識することを促す簡単なシステム指示は、部分的にしか緩和できません。関連コードは GitHub リポジトリ google-deepmind/xyeval に公開されています。

彭博社の報道によると、英国政府は人工知能バイオセキュリティラボの建設に1億ポンド（約1.34億ドル）を投入することを発表し、OpenAI、Anthropic、Google DeepMindの支援を受けています。英国政府の声明によれば、このラボは人工知能を利用して生物的脅威を検出し、監視することになります。上記の資金に加えて、OpenAIとAnthropicは最大2億ポンドの人工知能モデル使用枠を提供します。ラボはまた、Google DeepMindおよびライフサイエンス企業Basecamp Researchと協力し、英国政府はさらに6500万ポンドを別途割り当て、病原体に対する対策を開発します。発表には、人工知能安全研究所に追加で1.2億ポンドを提供することも含まれており、この機関は最先端の人工知能モデルを定期的に評価します。また、設立中の人工知能経済研究所に2300万ポンドを追加で提供し、人工知能が経済に与える影響を分析します。

Google DeepMindはGemini 4 Argonの安全報告書で、機械学習の研究開発自動化に関する初の全体的な実証評価を発表しました。その結論は、AIは自身の研究開発を加速していないというもので、AIはこの研究所のエンジニアが提供したコードの大部分を作成しています。評価に参加した研究者のHaydn BelfieldはX上で、現在、顕著なエンドツーエンドのML R&D加速は存在せず、したがってAI駆動のML R&Dのリスクは現在低いと述べています。チームは内部指数GCI v1を構築し、123のAIモデルの92のベンチマークでのスコアを単一の数値に統合しました。最前線のGemini能力は、約毎月0.1 GCIポイントの安定した速度で向上しており、Gemini 1.5 Proは2024年末に0.5ポイントに近づき、Gemini 3.8 Flashは2026年9月にわずかに2.9ポイントを超え、Argonは約3.3ポイントでトレンドラインを上回っていますが、Belfieldはこれが計算能力と組織の投入の増加に起因していると述べており、AI駆動の加速ではないとしています。DeepMindが生成するコードの75%以上はAIによって作成されており、完全に委託されたコードのマージリクエストの割合は4月から9月の間に7.5%から11.9%に増加しましたが、約88%のリクエストは依然として複数回の手動ガイドまたは手動作成を必要としています。12人の経験豊富な研究者への調査では、自動化は明確で検証可能な実行タスクにおいて最も高く、オープンサイエンスの構想、新しい実験デザイン、診断トレーニングの不安定性などの段階では最も低いことが示されています。

Googleは10月7日にウェブプラットフォームPlaygroundを発表しました。ユーザーは自然言語でゲームのアイデアを説明することで、コードを書くことなくプレイ可能で共有可能なゲームバージョンを得ることができます。ユーザーは対話を通じて物理効果、ルール、キャラクター、またはシーンを調整し、作品をリンクで共有することもできます。このツールは現在、アメリカの18歳以上のユーザーに開放されており、作成権限はユーザーのGoogle AIサブスクリプションレベルに応じて階層化されています。Playground内のゲームは、スマートフォンやノートパソコンのブラウザで実行できます。クリエイターは作品をプライベートに設定することも、コミュニティギャラリーに公開することもできます。すべてのゲームは安全審査を通過する必要があり、一部のカテゴリではランキングやマルチプレイヤーモードがサポートされています。Googleはこれを「初期の実験」と呼び、その発表では価格が明らかにされず、このツールがどのAIモデルによって駆動されているかも説明されていません。アップグレードパスはUnity Sparkを指しており、GoogleはPlaygroundがこのツールにすぐに接続されると述べており、専門的なメカニズムと高忠実度の3Dを必要とするクリエイターのニーズに応えることを目指しています。GoogleとUnityは共同声明の中で、Sparkが今年後半にリリースされ、クローズドテストが間もなく開始されると述べています。以前、DeepMindは2024年にGenieモデルを発表し、今年1月にGoogleはアメリカのAI UltraサブスクリプションユーザーにGenie 3に基づくProject Genieを開放しました。

Google DeepMindの共同創設者兼首席AGI科学者Shane Legg、研究、実験室、技術と社会の社長James Manyika、そしてノーベル賞受賞者でGoogle DeepMindの共同創設者兼会長、Alphabetの首席科学者Demis Hassabisは、DeepMind Instituteの設立を発表しました。三人は次のように述べています：今日の人工知能システムは顕著な能力を持ち、迅速な革新は人類がAGIに近づいていることを示しており、その人類に対する深遠な影響をよりよく理解するために学際的な思考が急務であるとしています。DeepMind Instituteは、AGI時代の最も重要な技術的および社会的問題に応えるために学際的な研究、協力、議論を促進することを目的としており、Google DeepMind、Google、およびより広範なグローバル研究コミュニティの研究者や思考者のプラットフォームとして、AGIの世界に関する創造的かつ深い洞察を展開し、発表するためのものです。この機関はShane Legg、James Manyika、Demis Hassabisがディレクターを務め、Shane Leggが執行編集長を兼任しています。

最近、Google DeepMindを辞職したAI研究者Bilal Chughtaiは、月曜日にXとLinkedInに投稿し、人類が人工知能による広範な危害を防ぐために時間を浪費していると述べました。彼は次のように書いています：Googleで、私はAIの発展を目の当たりにしました。この技術のデフォルトの軌道に対して非常に懸念しています。私は心から、AIが私たち全員を殺す可能性があると信じています。Chughtaiは、Alphabet傘下の同社でAIの安全性と整合性に関する業務に従事していました。これは、技術の発展方向に懸念を示す別の従業員です。Googleは、コメントのリクエストにはまだ応じていません。

9月4日、B.AIプラットフォームはGoogle DeepMindの最新のGemini 3.8 Flashモデルが正式にAPIに接続されたことを発表しました。このモデルはGemini 3ファミリーの最新世代の主力モデルで、1Mトークンのコンテキストウィンドウとネイティブなマルチモーダル入力をサポートしています。プラットフォームによると、Gemini 3.8 FlashはFlashシリーズの低遅延特性を維持しつつ、ソフトウェアエンジニアリング、エージェントタスク、専門分野における多段階推論などの面で改善が見られ、金融や法律などの専門分野でも成果を上げています。複雑な推論と長期的なエージェントワークフローに向けています。公式API接続は現在オープンしています。

MetaのCEOマーク・ザッカーバーグは先月、アメリカのドナルド・トランプ大統領との電話の中で、国家AI規制機関の設立計画について懸念を示しました。この提案はGoogle DeepMindの科学者デミス・ハサビスが提唱し、一部のホワイトハウスの官僚が支持しています。これは、先進的なAIモデルがより広く展開される前に潜在的なリスクを審査しテストする、FINRAに類似した独立した組織を設立することを目指しています。ホワイトハウスの官僚は8月中旬にトランプ大統領とMetaを含む主要なテクノロジー企業にこの提案をプレビューしました。トランプは8月17日の週にザッカーバーグと電話をしました。対話に詳しいホワイトハウスの高官によると、ザッカーバーグはこの提案に反対しました。別の情報筋は、ザッカーバーグがトランプに立場を変えるよう求めたわけではなく、ホワイトハウスが任命する可能性のある規制機関の人員はトランプのAIに対する軽触式のアプローチを反映すべきだと伝えたと述べています。また、トランプが先に電話をかけたとも言われています。この電話はこのアイデアを抑え込むものではなく、依然として検討されています。Metaの広報担当者はコメントを拒否しました。ホワイトハウスの広報担当者は、トランプ政権がAI政策の策定において革新と安全のバランスを取ることに尽力していると述べました。ザッカーバーグは8月の記事で、新しいAIモデルに対する厳格な政府の規制に懐疑的であり、モデルのリリースをたとえ1ヶ月でも遅らせる政策は、アメリカの中国に対するリーダーシップに重大なリスクをもたらすと考えています。政府はFINRA式の規制機関や、アメリカ映画協会のような自発的な業界団体を検討しています。トランプ前AIおよび暗号通貨の大臣デイビッド・サックスは政府の規制機関に反対し、それを「AIのDMV」と呼びました。Anthropicの共同創設者ジャック・クラークは7月にこのFINRA式のアイデアを支持する投稿をしました。

ウォール・ストリート・ジャーナルの報道によると、Google (GOOG.O) はAIの組織構造を調整し、AI責任チームをDeepMindラボから移動させました。

Citrini アナリストの Jukan は X プラットフォームで内容を転送し、業界の情報筋によると、Google DeepMind の共同創設者 Demis Hassabis は以前、もう一人の共同創設者 David Silver と同時に退職する計画があったが、Google の経営陣はこのニュースが株価の大幅な下落を引き起こす可能性があることを懸念し、退職を一時的に延期するよう希望した。情報によれば、Google が関連する調整を発表した後、実際に会社の株価は下落し、最終的に Hassabis は DeepMind の会長職に転任するよう説得され、組織の円滑な移行を助け、将来的により適切な方法で Google を離れるためのスペースを作ることになった。報道によれば、David Silver が Ineffable Intelligence を設立し、John Jumper が Anthropic に参加する中で、DeepMind のコア AI 研究開発力が変化している。情報筋は、現在 Google が AI モデルの開発を推進する中心がアメリカの湾岸地域に移っており、DeepMind の重要性が低下していると考えている。Google 内部では、重点が大規模言語モデル Gemini に移行しており、OpenAI や Anthropic に追いつくことを目指している。Hassabis の調整は、Google 内部に長年存在する戦略的矛盾を反映している：研究者は長期的な科学的突破により関心を持つ一方で、ビジネスチームは迅速に商業化し、収益と株価の成長を促進できる AI 製品により関心を持っている。市場は、Hassabis が一年以内に Google を離れる可能性があり、再び起業するかもしれないと予測している。

研究機関 SemiAnalysis が分析を発表し、Google DeepMind はもはや最前線の AI 実験室の列には属していないと指摘した。前の週、DeepMind の共同創設者 Demis Hassabis が日常運営から退き、Google の最高科学者 Jeff Dean や Gemini の共同責任者 Oriol Vinyals などの核心メンバーが離職し、新しい実験室 Discovery Loop を設立した。分析によれば、Google 内部の Gemini と GCP の間での計算力配分に関する長期的な駆け引きは GCP の勝利で終わった。SemiAnalysis は、Gemini 3.5 Pro がキャンセルされ、Gemini 3.6 Flash の性能は中国の主要オープンソースモデルや Grok 4.5 に及ばないと述べており、現在 Gemini は大規模モデルのランキングで第 8 位または第 9 位に落ちている。一方で、GCP は Anthropic などの競合他社に大量の TPU を販売しており、過去 9 ヶ月で数十万個の TPU の長期リースおよび販売契約を確保している。Tokenomics モデルの推計によれば、Gemini 自身の ARR は約 120 億ドルであり、GCP は 2027 年末までに第三者の AI クラウドサービス収入が 730 億ドルを超えると予測しており、TPU システムの販売はさらに 1200 億ドル以上の貢献をする。GCP の最新の四半期成長率は 82% であり、2027 年には TPU システムの販売により 100% 以上に加速すると予想され、Google の一株当たりの利益に約 3 ドルの貢献をする。

金十の報道によると、GoogleのDeepmindがGemini Robotics ER 2モデルを発表しました。

報告によると、Google DeepMindの共同創設者であるDemis Hassabis氏は最近、汎用人工知能（AGI）が数年以内に実現する可能性があり、その変革的な影響は産業革命の10倍に達し、発展速度は10倍速くなると予測しています。彼は、最先端のモデルがサイバーセキュリティ、原子力、生物学などの分野での潜在的なリスクをますます明らかにする中、業界は将来の自律性と自己改善能力を持つAIシステムのために堅固な安全防護を確立する必要があると指摘しています。技術革新と安全リスクのバランスを取るために、Hassabis氏はアメリカが金融業界の規制機関（FINRA）に類似した「最先端AI標準機関」を設立することを先導するよう呼びかけています。この機関は、公私の協力または自律的な組織モデルを採用し、独立した技術専門家とオープンソース界の代表によって管理され、主に業界の資金提供によって運営される予定です。その核心的な機能は、動的な科学評価協定を策定することであり、初期段階では最先端のラボがモデルを公開する30日前に自発的に審査を提出することを求め、最終的には強制的な市場参入テストに移行する計画です。ただし、スタートアップ企業や学術機関の非最先端モデルは免除されます。この枠組みは、技術主導の審査メカニズムを通じて未知の危機に対処し、それを基に国際社会がグローバルなAIリスク管理の合意に達することを促進することを目的としています。

ChainCatcher のメッセージ、グーグルはそのグーグル DeepMind チームが開発した人工知能モデル「Gemini」を発表しました。Gemini はマルチモーダルとして設計されており、テキスト、コード、音声、画像、動画などの異なるタイプの情報を理解し処理することができます。Gemini モデルは、Ultra、Pro、Nano の三つの異なるスケールに分かれています。Ultra バージョンは複雑なタスク向け、Pro バージョンは幅広いタスク範囲に適しており、Nano バージョンはモバイルデバイス上のタスクに最適化されています。現在、Gemini はグーグルの複数の製品やプラットフォームでの展開が始まっています。例えば、Google Bard は Gemini Pro の改良版を使用し、Pixel 8 Pro は Gemini Nano を採用した最初のスマートフォンとなります。さらに、12 月 13 日から、開発者や企業顧客は Google AI Studio または Google Cloud Vertex AI を通じて Gemini Pro API にアクセスし、Gemini ベースのアプリケーションを開発および展開できるようになります。

ChainCatcher のメッセージによると、Techcrunch が報じたところでは、フランスの人工知能スタートアップ Mistral AI が 1.05 億ユーロ（1.13 億ドル）のシードラウンドの資金調達を完了し、Lightspeed Venture Partners が主導し、Xavier Niel、JCDecaux Holding、Rodolphe Saadé、Motier Ventures、La Famiglia、Headline、Exor Ventures、Sofina、First Minute Capital、LocalGlobe が参加しました。関係者によると、このような資金調達の評価額は 2.4 億ユーロ（2.6 億ドル）です。同社は、元 DeepMind および Meta の研究者によって設立された新しい企業であり、大規模な言語モデルと生成 AI の構築、トレーニング、応用において OpenAI や Google と競争し、生成的人工知能インフラを開発する予定です。2024 年にテキストベースの生成 AI モデルを初めて発表する計画です。（出典リンク）