人工智慧巨頭致力於確保兒童上網安全

OpenAI、微軟、Google和 Meta 等科技公司已承諾阻止其人工智慧工具產生和傳播與兒童性虐待相關的內容。

保護兒童的重要措施

值得注意的是，在以下領域進行了一次非同尋常的動員：人工智慧。事實上，領先的公司，例如開放人工智慧,微軟, Google,元和其他公司共同致力於防止使用他們的人工智慧工具來剝削兒童並產生與兒童性虐待有關的內容（« 兒童性虐待材料 »）。

打造更安全網路的倡議

這項舉措是兩個組織共同努力的成果。一方面，刺, 一組安全對孩子來說，另一方面，所有技術都是人性的，一個致力於負責任技術的非政府組織。這些實體直面問題，他們的強硬行動讓任何人都無動於衷。

保護兒童的建議

為了透明度和效率，這兩個組織發布了一份重要文件，題為« 產生人工智慧的安全設計：防止兒童性虐待 »。這些建議為人工智慧公司提供指導，旨在防止使用人工智慧工具傷害兒童。這些建議包括仔細選擇用於訓練人工智慧模型的資料集。他們也呼籲刪除損害兒童形象的網站連結。

目前正在部署的具體行動

這些行動的回饋令人鼓舞。一些公司已經同意將兒童圖像、視訊和音訊與成人內容分開，從而防止他們的模型將兩者混淆。但還有很長的路要走，誤報仍然是一個實際的威脅。水印並不能完全保護內容。儘管如此，這些公司的全面承諾表明，該課程的目標顯然是為我們的孩子提供一個更安全的網路。