OpenAI 使用 GPT-4 設計先進的內容審核系統。它會比目前的系統更有效率嗎？
內容審核是世界上最困難的問題之一。網際網路總是。開發商為聊天GPTOpenAI 認為它可以提供幫助，今天它提供的功能GPT-4進行測試，使用其大型多模式模型來“設計內容審核系統可擴展、一致且可自訂。
該公司在部落格文章中寫道GPT-4不僅可以幫助做出審核決策，還可以幫助實施指南並管理其中的增量更改，「將週期從幾個月縮短到幾個小時」。她表示，該模型可以檢測內容政策中的許多細微差別和其他規則，並立即進行調整。這是為了提供更一致的內容過濾。
「我們相信這為數位平台的未來提供了更積極的願景，人工智慧可以根據每個平台自己的規則幫助調節線上流量，從而消除大量人類調節者的精神負擔，」Lilian Weng 和 Vik Goel 寫道。和OpenAI 的Andrea Vallone。 「任何有權存取 OpenAI API 的人都可以實施這種方法來創建自己的人工智慧輔助審核系統。 » OpenAI 聲稱 GPT-4 的審核工具可以幫助公司在一天內完成約六個月的工作量。
使用人工智慧減輕人類管理員的負擔可能是一個很大的救星。例如，Meta 多年來一直在使用人工智慧來協助其版主。然而 OpenAI 解釋說，到目前為止，人類主持人得到了「特定的、較小的垂直機器學習模型」的幫助。這個過程本質上是緩慢的，這可能會給人類主持人帶來精神壓力。 »
它會比目前的系統更有效率嗎？
人工智慧模型遠非完美。科技巨頭長期以來一直在其審核過程中使用人工智慧，無論有或沒有這項技術，他們仍然經常做出錯誤的決定。未來將告訴我們這個系統是否開放人工智慧可以避免當前系統多年來一直陷入的問題。
無論如何，OpenAI 承認人類仍然需要參與。 「我們仍然會讓人來驗證一些模型評估，」該專案的工作人員 Andrea Vallone 解釋道。彭博社。
「語言模型的判斷很容易受到模型學習過程中可能引入的意外偏差的影響。與任何人工智慧應用程式一樣，結果和輸出需要由人類仔細研究、驗證和調整，」部落格文章寫道。 「透過減少人類對語言模型可以處理的部分審核過程的參與，人力資源可以專注於處理更複雜的案例。 »
