Google DeepMind、OpenAI 和 Anthropic 將與英國政府分享他們的人工智慧模型,以提高透明度。
監督人工智慧英國的(IA)將顯著使直接研究某些公司的技術成為可能。英國首相里希·蘇納克 (Rishi Sunak) 在倫敦科技週期間發表演說時透露,GoogleDeepMind、OpenAI 和 Anthropic 承諾提供對其人工智慧模型的“早期或優先訪問”推進研究和安全。 Rishi Sunak 表示,這將改善對這些模型的檢查,並幫助政府評估「機會和風險」。
很難知道這些公司實際上將與英國政府分享哪些數據。儘管如此,幾週前官員表示,他們將對人工智慧模型的問責制、安全性、透明度和其他道德方面進行初步評估。那裡競爭與市場管理局國家(CMA)必須在這一過程中發揮至關重要的作用。英國也承諾花費1億英鎊(1.16億歐元)創建基金會模型工作小組這將加強人工智慧的“主權”,以發展英國經濟,同時最大限度地減少道德和技術問題。
產業領袖和專家一直呼籲暫停人工智慧開發,擔心創作者在不考慮安全的情況下繼續前進。生成式人工智慧模型,例如開放人工智慧GPT-4 和 Anthropic Claude 具有巨大的潛力,但也引起了人們的關注,特別是關於它們的不準確、錯誤訊息或濫用(例如作弊)。從理論上講,英國的這項舉措應該能夠限制這些擔憂,並在問題模型造成太大損害之前找出它們。
提高透明度
這也不一定能讓英國完全存取這些模型和底層程式碼。也不能保證政府能夠避免所有重大問題。然而,這種訪問可以提供一些有價值的資訊。無論如何,在此類系統的長期影響仍遠不明顯的情況下,這應該會提高人工智慧的透明度。