微軟、OpenAI、Google聯手打擊與選舉相關的深度造假

一些批評者擔心協議中使用的語言似乎不夠尖銳。

太;博士

  • 20 家科技公司聯合起來,幫助防止人工智慧在 2024 年選舉中的誤導性使用。
  • 參與者包括像Google,元,亞馬遜、Adobe 和 OpenAI。
  • 該協議包括八項承諾,旨在打擊人工智慧產生的可能誤導選民的內容。
  • 儘管一些大公司缺席,但該舉措在確保選舉公正性方面向前邁出了一步。

保護 2024 年選舉的技術協議

二十家科技公司,包括Google、元、亞馬遜、Adobe 和 OpenAI,最近簽署了一項協議,旨在遏制「深度假貨」產生的不當影響人工智慧(IA) 在關鍵的 2024 年選舉中。

打擊「深度造假」的共同承諾

該協議稱為“技術協議將打擊 2024 年選舉中人工智慧的欺騙性使用「,包括八項承諾,打擊人工智慧產生的有害內容,其目的是誤導選民。這些承諾包括實施技術來減輕與此類內容相關的風險,評估上述模型以了解風險,在其平台上檢測並適當處理此類內容,以及承諾不允許聊天機器人冒充政治候選人。

協議中的顯著缺失

無論其範圍如何,一些關鍵公司都被排除在該協議之外。例如,Midjourney 產生了一些當今最令人信服的假圖像,但它卻沒有出現在該列表中,蘋果公司也是如此,該公司尚未推出任何視訊產品。生成式人工智慧並且沒有可以分發深度偽造品的社群媒體平台。

一個有前途但可以完善的協議

儘管其範圍和公司的承諾,該協議也有其局限性,特別是缺乏約束機制和模糊的語言。人工智慧產生的深度造假已經在選舉中使用,引發了人們對此類措施有效性的擔憂。