谷歌希望為人工智慧產生的內容添加不可見的數位浮水印。一個有前途但並非絕對可靠的識別此內容的解決方案。
Google朝著人工智慧生成內容的一定透明度又邁出了一步。Google DeepMind 宣布推出 SynthID，一種用於生成藝術的識別和水印工具。該公司解釋說，該技術將人眼看不見的數位浮水印直接嵌入影像的像素中。 SynthID 將向使用 Imagen 的「有限數量」客戶推出，Imagen 是Google雲端人工智慧工具套件中提供的產生器。
谷歌希望為人工智慧生成的內容添加隱形數位浮水印
除了倫理影響之外，生成藝術的關注點之一是它創造的潛力深度造假，以及這可能帶來的所有後果。 「在音訊和視訊內容上添加浮水印，以更清楚地表明內容是由人工智慧產生的」是七家人工智慧公司去年 7 月在白宮舉行會議後做出的自願承諾之一。谷歌是這些公司中第一家推出此類系統的公司。
谷歌沒有詳細介紹 SynthID 的技術實現，但表示無法透過簡單的編輯技術輕鬆刪除浮水印。該公司在 DeepMind 部落格上的一篇文章中寫道：“在圖像處理的不可感知性和魯棒性之間找到適當的平衡是很困難的。” 「我們設計SynthID 時，影像品質不會受到影響，即使在添加濾鏡、更改顏色以及透過不同的有損壓縮演算法（通常用於JPEG）等修改後，水印仍然可檢測到，」專案負責人Sven Gowal 和Pushmeet 解釋道科利。
SynthID 的識別部分根據數位浮水印的三個置信度評估影像：偵測到、未偵測到和可能偵測到。由於該工具嵌入圖像的像素中，谷歌表示其係統可以與元資料驅動的方法一起工作，例如 Adobe 的 Photoshop 中的生成功能，目前處於公開測試階段。
用於識別此內容的有前途的解決方案，但並非絕對可靠
SynthID 包括兩種深度學習模型：一種用於浮水印，另一種用於識別。谷歌解釋說，兩者都接受了大量圖像的訓練，從而形成了一個組合的機器學習模型。 Sven Gowal 和 Pushmeet Kohli 寫道：“組合模型根據目標進行優化，包括正確識別帶水印的內容，以及通過在視覺上將水印與原始內容對齊來提高不可見性。”
谷歌承認這不是一個完美的解決方案，並補充說它並沒有“完全防止極端圖像操縱”，但水印是“一種有前途的技術方法，允許人們和組織以負責任的方式處理人工智能生成的內容。 » 該公司解釋說，該工具可以擴展到其他人工智慧模型，包括那些生成文字的模型（例如聊天GPT）、視訊和音訊。
雖然浮水印確實可以幫助打擊深度造假，但很容易想像與駭客的競賽，採用 SynthID 的服務需要不斷更新。此外，Stable Diffusion（最受歡迎的內容生成工具之一）的開源性質可能會對全行業範圍內採用 SynthID 或類似工具帶來挑戰。本地PC上已經有很多版本在運作。無論如何，Google希望能夠「在不久的將來」向有興趣的第三方提供 SynthID，即使只是為了提高人工智慧的透明度。
