?劃重點:

1. 美国总统拜登颁布AI行政命令，首次應對技術領域的挑戰，其中之一是如何辨別圖像真僞。

2. 命令要求制定数字水印标准，类似于照片或纸币上的水印，以帮助用户区分真假图像并确定所有者。

3. 尽管AI公司已在产品中使用水印技术，但专家担忧水印并不是解决虚假信息问题的唯一方案。

站長之家(ChinaZ.com) 11月1日 消息:美國總統拜登頒布了一項關于人工智能的行政命令，這是政府首次采取行動來應對技術領域的一些最大挑戰之一，例如如何辨別圖像的真僞。該命令要求制定新的政府主導的標准，以在AI生成的內容上添加數字水印，類似于照片或紙幣上的水印，以幫助用戶區分真實物體和虛假物體，以及確定其所有者。

數字水印似乎是一個簡單的解決方案，得到了白宮和科技行業的支持。水印技術有著巨大的潛力。但專家擔憂，它並不是解決虛假信息問題的唯一途徑。

圖源備注：圖片由AI生成，圖片授權服務商Midjourney

許多領先的人工智能公司已經在其産品中加入了水印技術。有些水印容易剪切，如OpenAI在DALL-E圖像上的標記，但還有一些更具持久性。例如，谷歌在八月份宣布了SynthID的測試版，這是一種可以無損地插入到圖像像素中的不可察覺的水印。這種方法避免了降低或顯著標記圖像，同時允許AI檢測軟件在圖像被剪裁或調整大小後進行認證。

將數字水印嵌入到AI生成內容的像素和元數據中的“高擾動”方法已被證明是應對有害虛假內容的最有前途的解決方案之一。然而，像SynthID這樣的産品不能是唯一的解決方案。谷歌本身也表示，這項技術“無法防範極端圖像篡改”。

本月早些時候，馬裏蘭大學的研究人員發布了一篇關于他們如何破解當前技術下所有可用水印方法的方式的預印本。他們不僅能夠破壞這些水印，還能夠將虛假水印插入圖像中，從而産生虛假陽性結果。

諸如DALL-E和Midjourney之類的服務使圖像生成變得比以往更加容易，因此互聯網上充斥著由AI生成的虛假內容。

马里兰大学计算机科学副教授Soheil Feizi在接受采访时表示:“在我看来，给生成模型的输出加水印不会是解决AI虛假信息問題的切實可行方案。這個問題在理論上是不可能可靠解決的。”

拜登的行政命令还要求商务部制定用于检测和跟踪网络上合成内容的标准。Adobe本月宣布已经建立了“透明度标志”，或一种视觉标记，用于帮助确定图像的出处。这个标记可以添加到在Photoshop、Premiere和最终在Microsoft的Bing中创建的图像和视频上，以显示谁拥有或创建了数据。在实际操作中，当有人将鼠标悬停在标记上时，它将显示有关图像是如何生成的信息，睙徵是否由AI生成。

人权组织Witness的执行主任Sam Gregory等专家表示，在规模上认证AI生成内容将需要一组类似的方法。他说:“我不指望这些方法能百分之百地奏效。我也认为它们会被恶意行为者和意外事件破解，但我们应该将它们视为一种减少危害的方式。”

然而，驗證和跟蹤AI生成內容也存在著自己的風險。將個人可識別信息嵌入到圖像的元數據中可以幫助內容創建者擁有其産品，但這引發了有關用戶隱私的新擔憂。對于生活在威權統治下的諷刺漫畫創作者來說，挑戰他們的領導的幽默內容可能會將他們置于危險之中。

建立一個可互操作且可靠的圖像認證系統需要時間。目前尚不清楚這項命令將如何影響人工智能公司，以及政府可能會實施什麽規定。

（舉報）