PhotoGuard，麻省理工學院的演算法，旨在保護您的照片免受人工智慧的侵害。現在是解決這些問題的時候了。
Dall-E 和穩定擴散只是第一個。的系統生成式人工智慧激增，公司試圖使自己與眾不同。聊天機器人正在獲得圖像編輯和創建功能，其中 Shutterstock 和 Adobe 等巨頭處於領先地位。但這些人工智慧驅動的功能並非沒有危險，例如未經授權的操縱或版權竊盜。引入浮水印會有所幫助，但是麻省理工學院 CSAIL 開發的新 PhotoGuard 技術更進一步。
PhotoGuard 的工作原理是改變影像中的某些像素，讓人工智慧無法再理解影像是什麼。這些「幹擾」是人眼看不見的，但很容易被機器讀取。引入這些偽影的編碼攻擊方法的目標是目標影像演算法模型的潛在表示—數學描述每個像素的位置和顏色的複合體——以防止人工智慧理解它是什麼。
這種先進的「擴散」方法可以偽裝影像，使其在人工智慧眼中看起來像是其他東西。此系統定義目標影像並優化該影像中的干擾，使其與其目標相似。人工智慧嘗試對這些「免疫」影像進行的每次編輯都將應用於「目標」影像，從而產生不切實際的輸出影像。
是時候解決這些問題了
「這種攻擊使模型相信（要編輯的）輸入圖像是其他圖像（例如灰色圖像），」這項研究的主要作者 Hadi Salman 向 Engadget 解釋道。 「擴散攻擊迫使擴散模型對目標影像（可能是灰色的或完全隨機的）進行修改。 » 這種技術並非萬無一失，惡意者可以透過添加數位雜訊、裁剪或旋轉影像來逆轉這種保護。
「一種涉及模型開發人員、數據平台、社群媒體監管機構針對未經授權的圖像操縱提供了強有力的防禦。哈迪·薩勒曼在一份聲明中說：“今天，研究這個主題至關重要。” 「雖然我很高興為這個解決方案做出貢獻，但要使這種保護有效，還有很多工作要做。開發這些模型的公司必須針對這些人工智慧工具提供的潛在威脅採取強而有力的保護措施。 »
