OpenAIは、ChatGPTのコード出力におけるエラーをキャッチするためのCriticGPTモデルを発表しました。

ChainCatcher のメッセージによると、財聯社の報道で、OpenAI は新たに GPT-4 に基づくモデル ------ CriticGPT を発表しました。これは ChatGPT のコード出力におけるエラーを捕捉するためのものです。

CriticGPT の役割は、人々が GPT-4 を使って GPT-4 のエラーを見つけることに相当します。このモデルは ChatGPT の応答結果に対して批判的なコメントを行うことができ、人工知能トレーナーが「人間のフィードバックに基づく強化学習（RLHF）」プロセスで発見したエラーを特定するのを助け、人工知能トレーナーに明確な人工知能の支援を提供します。

研究によると、トレーナーが CriticGPT を使って ChatGPT の出力コードを審査する際、彼らのパフォーマンスは助けを得られなかった人々よりも 60% 高いことがわかりました。また、CriticGPT の助けを借りることで、彼らの指摘は自分だけで行った場合よりもより包括的でした。