8 月 30 日，為了應對日益增長的 AI 生成圖像的問題，谷歌 DeepMind 團隊今日推出了一款名為 SynthID 的工具，可以在 AI 生成的圖像中嵌入人眼不可見的水印，但可以用專門的人工智能檢測工具檢測出來，以便于區(qū)分真實和虛假的內(nèi)容。該工具已經(jīng)在谷歌云平臺上向部分客戶開放。
SynthID 的原理是在圖像的像素中嵌入一個水印，但不會影響圖像本身的質(zhì)量和體驗。該水印可以抵抗裁剪、縮放等常見的圖片編輯操作，只有專門的 AI 檢測工具才能識別出來。谷歌 DeepMind 的 CEO Demis Hassabis 表示，這種水印隨著 AI 模型的改進，會變得更加隱蔽和強大。
Hassabis 說，SynthID 是為了解決深度偽造（deepfake）等潛在危險的問題而開發(fā)的。他認為，在 2024 年美國和英國即將舉行大選的背景下，建立 AI 圖像識別系統(tǒng)是非常重要的。他還表示，SynthID 的基本思想也可以應用于視頻和文本等其他媒體。
目前，SynthID 只能在谷歌云平臺上使用，主要針對使用 Vertex AI 平臺和 Imagen 圖像生成器的客戶。Hassabis 希望通過真實場景的測試，讓 SynthID 變得更好。然后，谷歌將把它用于更多地方，與更多合作伙伴分享，并提高公眾的意識和教育。
IT之家注意到，除了谷歌之外，還有許多其他公司也在致力于建立 AI 保護和安全系統(tǒng)。例如，Meta、OpenAI 等公司正在使用一種名為 C2PA 的協(xié)議，利用加密元數(shù)據(jù)來標記 AI 生成的內(nèi)容。Hassabis 說，SynthID 可能會成為一個互聯(lián)網(wǎng)范圍內(nèi)的標準之一。但他也強調(diào)，這只是一個初步嘗試，并不是解決深度偽造問題的萬能藥。他說，“在我們證明了技術(shù)基礎(chǔ)部分有效之前，考慮擴展和社會討論還為時過早?！?/p>
原創(chuàng)文章，作者：科技探索者，如若轉(zhuǎn)載，請注明出處：http://rponds.cn/article/578422.html
