最近高層人物的離職引發了人們對安全方面自我監管的質疑。這是否也勾起了你的好奇心呢？
太;博士
- OpenAI 設立新委員會安全距離他的前球隊解散還不到兩週。
- 該委員會由兩名董事會成員和執行長薩姆·奧爾特曼組成。
- 在此之前，前團隊中頗具影響力的成員伊利亞·蘇茨克韋爾 (Ilya Sutskever) 和揚·雷克 (Jan Leike) 已辭職。
- 該組織面臨爭議，尤其是在未經史嘉蕾喬韓森同意的情況下試圖使用她的聲音。
在一個令人驚訝的轉折中，開放人工智慧宣布成立新的安全委員會，在解散其最初致力於保護人類免受人工智慧潛在危險的團隊後不到兩週。這個新小組的成員包括兩名董事會成員以及公司執行長 Sam Altman。這項決定質疑該委員會在公司瘋狂爭奪利潤和技術主導地位的背景下的真正作用。
安全團隊遭到破壞
這個新委員會的成立如下的顯著辭職伊利亞·蘇茨克韋爾簡·雷克，都是原團隊的傑出成員。在發布的消息中嘰嘰喳喳5月17日，雷克表示，由於產品和安全部門存在重大分歧，他做出了離開公司的決定。他對 OpenAI 是否有能力充分應對與日益智慧的人工智慧的出現相關的安全問題表示擔憂。
有爭議的歷史
最近，OpenAI 面臨另一場爭議：它推出（然後很快就刪除）了一種新的語音模型，該模型與女演員史嘉蕾喬韓森有著令人不安的相似之處。根據恩傑特約翰遜透露，薩姆·奧爾特曼試圖徵求她的同意，使用她的聲音來訓練人工智慧模型，但她拒絕了這項請求。
未來行動受到監視
儘管存在這種混亂，安全與安保委員會仍計劃在未來 90 天內「重新評估並進一步製定」公司的安全流程和措施。之後，她將與整個董事會分享她的建議。同時，OpenAI 確認正在訓練其下一個模型，即 GPT-4 的後繼者，同時強調對這些關鍵問題進行嚴格辯論的重要性。
