這個流行的人工智慧平台推出了獎勵系統,以促進名人深度假貨的創作

看來「賞金」功能主要用於再現女性人物,這並不奇怪。這讓你感到驚訝嗎?

太;博士

  • Civitai 提供「賞金」系統來鼓勵 Deepfake 的開發。
  • 未經同意的圖像將被授予獎品並在平台上傳播。
  • 發電機AI市場非常關注這些需求。
  • Civitai 允許公眾人物的性圖像和普通人的非性圖像。

Civitai 的「賞金」:呼籲現實主義

國家的,一個線上模型交換平台人工智慧(AI)最近在其服務中添加了一個有趣的功能:「賞金」。這些旨在刺激其社群開發令人信服的真人深度贗品,404 Media 揭示了這一令人震驚的趨勢。

令人震驚和不安的內容

這些「賞金」令人震驚地邀請用戶重新塑造名人和社群媒體影響者(通常是女性)的形象。「我非常擔心這可能會變成什麼樣子,」影響者米歇爾·阿爾維斯 (Michele Alves) 坦言Instagram請關注 404 Media 上 Civitai 的「賞金」。 「我不知道我可以採取什麼步驟,因為網際網路似乎是一個失控的地方。 »此外,其中許多作品被歸類為“未經同意的性圖像”,增加了一定程度的恐怖除了這種已經令人不安的做法之外。

人工智慧是爭議的核心

這是哪裡l'IA以更重要的方式發揮作用:它不僅促進了這些逼真的贗品的製作,而且還使它們的發行能夠在 Civitai 這樣的流行平台上獲得動力。根據市場研究公司 Andreessen Horowitz 的數據,Civitai 目前是第七大最受歡迎的生成式人工智慧平台。影像請求可以快速執行,這使得這種做法更加令人擔憂。

編輯意見

身為時事記者,我對此類做法的興起表示深感不安。有必要強制執行倫理人工智慧世界中的道德和道德旨在成為創造而不是破壞隱私的工具。因此,立法當局必須採取行動,嚴格規範此類濫用行為。我們社會的未來取決於我們如何管理和使用科技進步。