OpenAIとAnthropicは、大規模モデルの相互テストについて議論したとされている。

メディアの報道によると、Anthropic と OpenAI は法的拘束力のある合意を締結し、互いの大規模モデルに対してストレステストを行うことを検討していたという。今年初め、両社とその弁護士チームはこの計画について議論を行い、競合他社が互いの最新の利用可能なモデルを深くテストし、潜在的なリスクやセキュリティの脆弱性を探ることができるようにすることを目指していた。このようなテストは商業化されたモデルにのみ適用され、双方は相手のデータを保持しないことに合意していた。この報道では、最終的に両者がこのような合意に達したかどうかは明らかにされていない。

最近、トップAIラボ間で何らかの形の同行評価を推進する考えが注目を集めている。SpaceXのCEOであるイーロン・マスクは先週、アメリカの主要な大規模モデル企業と一部の中国のAI企業が競合他社によるクロステストを許可すべきだと提案した。マスクは、「すべてのAI企業には一連のテストツールがあり、各社が他社のテストツールを使ってテストを行うことが、自社の安全を確保するためにできる最善のことかもしれない」と述べた。

今月初め、Anthropicの研究者ジェイコブ・コクソンが辞職を発表し、主要な人工知能企業が適切な保護措置なしに開発を加速することに警告を発した。その後、AnthropicのCEOダリオ・アモデイは業界に対してAI開発のペースを緩め、第三者評価メカニズムを導入するよう呼びかけた。Anthropicは先週金曜日にアクセンチュアとの提携を発表し、アクセンチュアが第三者評価機関として、同社の最先端AIモデルの安全性とコンプライアンスの評価を行うことになった。