IT之家8月30日消息，為了應對日益增長的AI生成圖像的問題，谷歌DeepMind團隊今日推出了一款名為SynthID的工具，可以在AI生成的圖像中嵌入人眼不可見的水印，但可以用專門的人工智能檢測工具檢測出來，以便于區分真實和虛假的內容。該工具已經在谷歌云平臺上向部分客戶開放。
SynthID工具會告訴你圖像是人工智能生成的可能性有多大
SynthID的原理是在圖像的像素中嵌入一個水印，但不會影響圖像本身的質量和體驗。該水印可以抵抗裁剪、縮放等常見的圖片編輯操作，只有專門的AI檢測工具才能識別出來。谷歌DeepMind的CEO Demis Hassabis表示，這種水印隨著AI模型的改進，會變得更加隱蔽和強大。
SynthID工具會告訴你圖像是人工智能生成的可能性有多大
Hassabis說，SynthID是為了解決深度偽造（deepfake）等潛在危險的問題而開發的。他認為，在2024年美國和英國即將舉行大選的背景下，建立AI圖像識別系統是非常重要的。他還表示，SynthID的基本思想也可以應用于視頻和文本等其他媒體。
目前，SynthID只能在谷歌云平臺上使用，主要針對使用Vertex AI平臺和Imagen圖像生成器的客戶。Hassabis希望通過真實場景的測試，讓SynthID變得更好。然后，谷歌將把它用于更多地方，與更多合作伙伴分享，并提高公眾的意識和教育。
IT之家注意到，除了谷歌之外，還有許多其他公司也在致力于建立AI保護和安全系統。例如，meta、OpenAI等公司正在使用一種名為C2PA的協議，利用加密元數據來標記AI生成的內容。Hassabis說，SynthID可能會成為一個互聯網范圍內的標準之一。但他也強調，這只是一個初步嘗試，并不是解決深度偽造問題的萬能藥。他說，“在我們證明了技術基礎部分有效之前，考慮擴展和社會討論還為時過早。”
