OpenAI는 ChatGPT 코드 출력에서 오류를 포착하기 위해 CriticGPT 모델을 출시했습니다

ChainCatcher 메시지에 따르면, 재경연합 보도에 따르면 OpenAI는 GPT-4 기반의 모델인 CriticGPT를 새롭게 출시하여 ChatGPT 코드 출력의 오류를 포착하는 데 사용하고 있습니다.

CriticGPT의 역할은 사람들이 GPT-4를 사용하여 GPT-4의 오류를 찾도록 하는 것입니다. 이 모델은 ChatGPT의 응답 결과에 대해 비판적인 코멘트를 제공하여 인공지능 훈련사가 "인간 피드백 기반 강화 학습(RLHF)" 과정에서 발견한 오류를 파악하는 데 도움을 주며, 인공지능 훈련사에게 명확한 인공지능 지원을 제공합니다.

연구에 따르면, 훈련사가 CriticGPT를 사용하여 ChatGPT 출력 코드를 검토할 때, 도움을 받지 않은 사람들보다 60% 더 높은 성과를 보였습니다. 또한, CriticGPT의 도움으로 그들의 지적은 혼자서 할 때보다 더 포괄적이었습니다.