OpenAI 推出 CriticGPT 模型,用於捕獲 ChatGPT 代碼輸出中的錯誤
ChainCatcher 消息,据財聯社報導,OpenAI 新推出了一個基於 GPT-4 的模型------CriticGPT,用於捕獲 ChatGPT 代碼輸出的錯誤。CriticGPT 的作用相當於讓人們用 GPT-4 來查找 GPT-4 的錯誤。該模型可以對 ChatGPT 響應結果做出批評評論,從而幫助人工智慧訓練師在"基於人類反饋的強化學習(RLHF)"過程中發現的錯誤,為人工智慧訓練師提供明確的人工智慧幫助。研究發現,當訓練師借助 CriticGPT 來審查 ChatGPT 輸出代碼時,他們的表現要比沒有得到幫助的人高出 60%。並且,在 CriticGPT 的幫助下,他們的指正比自己單獨做的更加全面。