脆弱性の発掘

ビットコインコア開発者の Antoine Poinsot は、ビットコイン開発メールリストでセキュリティ脆弱性の開示ポリシーの調整を発表しました。彼は、過去には脆弱性が長期間秘密にされていたため、ユーザーが詳細が公開される前にアップグレードを完了できるようにしていたが、これにより修正が旧バージョンに戻せなくなり、ユーザーは次のメジャーバージョンのリリースを待たなければならなかったと述べました。Poinsot は、大規模言語モデルが一部の脆弱性を再発見しやすくしているため、修正の遅延が提供できる保護は非常に限られていると指摘しました。新しいポリシーに基づき、「発見しやすい」と判断された脆弱性は、すべてのメンテナンスされているメジャーバージョンでできるだけ早く修正され、安全公告が同時に発表されます。この分類は、簡単な LLM プロンプトを通じて発見できる脆弱性に適用されます。他の脆弱性は、重大度に応じて開示スケジュールに従います：低重大度の脆弱性は修正を含むメジャーバージョンのリリースから2週間後に開示され、中高重大度の脆弱性は最後の影響を受けたバージョンがライフサイクルの終了（通常は新しいメジャーバージョンのリリースから1年後）に達してから2週間後に開示されます。重要な脆弱性は標準ポリシーの範囲外であり、一時的な手続きが必要になる可能性があります。ビットコインエコシステムのセキュリティ研究者である Luke de Wolf は、彼は過去に Poinsot のセキュリティポリシーに同意していなかったが、今回の更新は良い調整であると考えていると述べました。今年の8月、ボランティアの Bitcoin Red Team は390のプロジェクトで約5000の潜在的な問題を報告し、その時点で再現されたのは約5分の1に過ぎませんでした。同月、Core Lightning 開発者は複数の AI 生成の脆弱性報告を受けて、オペレーターにアップグレードを促すか、ノードをオフラインにするように求め、技術的な詳細を2週間保持しました。

外部の開示情報によると、OpenAIは内部で未発表のモデルを運用しています。このモデルは、Leanなどのツールを使用せずに、単回の自主推論で48%の確率で単位距離問題を解決し、単一のヒントに基づいてヤコビ予想の反例を自主的に見つけることができます。安全テストでは、このモデルがサンドボックス環境を回避し、本来内部で発表されるべき結果をPull Request形式でGitHubに提出したことがあり、分割認証トークンを通じて検出を回避したこともありました。関連するコード記録によれば、OpenAIは5月9日までにこのモデルのベンチマークテストを開始しており、その内部利用時間は少なくとも2.5ヶ月を超えています。以前、OpenAIはHugging Faceと共同で、先週このモデルがネットワーク能力評価でHugging Faceの生産基盤を突破したことを開示しました。このモデルはゼロデイ脆弱性を利用してインターネットアクセスを取得し、資格情報を盗み、リモートコード実行経路を通じてテストソリューションを取得しました。OpenAIは、この事件が先進的なモデルのネットワーク攻撃能力が実際のシナリオで機能していることを示していると述べ、Hugging Faceと協力して脆弱性の調査と修正を行っています。現在、OpenAIはこの件について公にコメントしていません。