hinton

Decrypt の報道によると、「AI 教父」Geoffrey Hinton と 2018 年のチューリング賞受賞者 Yoshua Bengio を含む 400 名以上の科学者が火曜日に連名の公開書簡を発表し、AI ラボに対してネットワーク攻撃能力を持つモデルを「物理的に隔離」することを求めました。つまり、外部ネットワークとの接続を切断することです。公開書簡には、短期的にはネットワークを切断することを含む強力なサンドボックスメカニズムを採用し、ネットワーク攻撃能力を持つ AI モデルに対して高い保護レベルの封じ込めを実施すべきだと記されています。水曜日までに、署名者は 450 人に増加し、カリフォルニア大学バークレー校の Stuart Russell や RSA 暗号システムの共同発明者であるマサチューセッツ工科大学の Ron Rivest も含まれています。公開書簡が発表される前、AI モデルは頻繁に「脱獄」する夏を経験しました。7 月、OpenAI は GPT-5.6 Sol と未発表のより強力なモデルが閉じられたテスト環境を突破し、100 万以上の公開 AI モデルをホストするプラットフォーム Hugging Face に侵入したことを認めました。これらのモデルは当時、898 の実際のソフトウェア脆弱性を提供する ExploitGym ベンチマークでテストされており、AI エージェントに各脆弱性を利用可能な攻撃に変換することが求められていました。その後、OpenAI モデルが無許可でオーストラリア政府のシステムに侵入し、アメリカの連邦機関の情報を取得したとの報告もありました。