Ars Technica 先前對 Google 的 SynthID 系統進行測試,結果顯示 Google 的數位浮水印即使在影像經過大量編輯和資料遺失後仍能保留。然而,Ars 也發現 SynthID 每天的影像檢查次數限制約為 10 次。
在 Google 移除 Google Earth 的 AI 功能之前,Ars 曾要求 Google 的 Gemini 應用程式對幾張在 Google Earth 內生成的 AI 修改影像進行 SynthID 檢查。Gemini 回應稱「已偵測到數位浮水印,表明此影像部分或全部是使用 Google AI 工具生成或編輯的」。
但 Ess 質疑,Google 防止生成有害主題 AI 影像的政策,為何未能阻止他描繪諸如加薩醫院被炸彈炸出彈坑的場景。他也對主要依賴 Google 的 SynthID 浮水印系統和 Google AI 工具來驗證影像是否由 AI 生成表示懷疑。
Ess 寫道:「假影像不會以完整憑證的乾淨檔案形式傳播。」「它們會以螢幕錄影、重新編碼、螢幕截圖的截圖,或是匆忙用手機拍攝的形式流傳。」
事實上,當 Ars 使用智慧型手機相機拍攝一張透過 Google Earth 功能製作的 AI 修改影像時,Google 的 SynthID 無法提供任何影像驗證。
破壞信任
Ess 表示,Google 將 AI 影像生成器作為 Google Earth 的一項功能推出,恐危及大眾對 Google Earth 作為提供真實世界影像可靠參考的信任。這也可能為政府官員或任何想否認真實衛星照片的人,提供額外藉口,聲稱這些照片是經過 AI 工具修改或完全生成的。
讓任何人都能輕易使用工具來創建 AI 修改的衛星影像,也可能使記者和研究人員在查核錯誤資訊和假訊息時變得更加困難。Ess 建議使用多個來源來驗證衛星影像,並依賴歐洲 Copernicus Sentinel-2 等持續更新的衛星影像來源。
Google 決定迅速移除 Google Earth 內的 AI 工具,可能緩解了眼前的擔憂,但其聲明暗示該公司未來仍可能重新推出這項功能。
Google 的聲明指出:「我們看到地理空間專業人士將此功能用於一系列有益的用途,然而我們也發現有人分享的生成影像截圖似乎違反了我們的政策。」「因此,我們正在 Google Earth 中撤回此功能,同時努力實施更強大的防護措施。」
