ザッカーバーグ：実験室はインセンティブを持って整合性を推進し、MetaはMuseの安全性に焦点を当てるために延期した

ザッカーバーグは、各研究所には必要な速度で安全にモデルを訓練する責任とインセンティブがあり、自ら行動を起こす能力があると述べました。人々は、自分と整合しない、要求に従わないエージェントを使用しないため、研究所にはモデルの整合性を高める強い自然なインセンティブがあります。信頼と整合性は、エージェントとモデルを区別する最も重要な能力となりつつあり、整合性に焦点を当てない研究所は遅れをとるでしょう。

ザッカーバーグは、研究所がモデルによって害を及ぼす場合、重大な責任を負うことになるため、予防するための強いインセンティブがあると述べました。Metaは、Museのリリースを数ヶ月遅らせて安全性とセキュリティに焦点を当てており、他の研究所に先行して模倣するよう求めているわけではなく、単に日常業務の一部としているだけです。独立した評価者やコンサルタントを雇うことは業界のベストプラクティスであり、MSLはすでに複数の分野でこれを行っています。ほとんどの計算能力を人々にサービスを提供するために使用し、自己改善の競争に陥らないことは、この技術を安全に開発するための最良の方法の一つであり、Metaはこのコミットメントを果たしています。