今年三月，Meta 的監督委員會呼籲該公司「履行其公開承諾並運用自家工具」，以遏止生成式 AI 內容在各平台上的散播。Meta 在七月回應，推出了 Content Seal，這是一項隱形浮水印技術，用於標記其新 AI 模型生成的圖像。然而，這項發布卻像是埋藏在該公司 Muse 圖像和影片生成工具公告中的一個註腳。

身為一個花費大量時間審視 AI 標籤系統的人，Content Seal 並沒有讓我感到信心十足。市面上已經有 C2PA Content Credentials 和 Google 的 SynthID 等更成熟的解決方案，Meta 本可以採用這些，而不是在這麼晚的時間點才推出自己的系統。在深入探究 Meta 為何要推出自家系統後，我認為 Meta 並沒有深思熟慮。

根據 Meta 的描述，Content Seal 的運作方式與 SynthID 相似。這種肉眼不可見的浮水印，會將「隱藏的來源訊號」嵌入到 AI 生成的圖像中，隨後可由偵測工具掃描並標記，幫助網路使用者區分深偽內容和真實內容。Meta 也表示，如同 SynthID，即使圖像經過「裁剪、壓縮、調整大小或截圖」，Content Seal 的浮水印仍能保持完整並被偵測到。

既然 Content Seal 在功能上與其相同，那為何不直接採用 SynthID 呢？Meta 本身就是內容來源與真實性聯盟 (C2PA) 的指導委員會成員，該聯盟與 Google 一同推動獨立的 Content Credentials 標準，這表明 Meta 願意與其他公司合作解決日益嚴重的 AI 偵測問題。

此外，OpenAI 也已採用 SynthID，這清楚顯示 Google 為了提升透明度，也樂意將其技術開放給競爭對手的 AI 供應商。

儘管與 Google 的系統有相似之處，Content Seal 目前仍存在多項限制。目前，使用者只能透過 Meta 正在測試的專用網路工具來偵測 Content Seal 浮水印，這表示 Meta 尚未將這些偵測功能整合到其 Meta AI 聊天機器人中，不像 Google 已將其整合到 Gemini。

然而，這項功能似乎正在開發中。Meta 發言人 Faith Eischen 告訴 The Verge，該公司正在「探索如何將偵測功能更貼近人們接觸 AI 生成內容的地方」。考量到這正是最需要 AI 偵測的地方，而且已經有一段時間了，為何在發布時卻沒有提供呢？

此外，浮水印本身目前僅應用於 Meta AI 應用程式和 Meta.ai 網站上由 Muse 生成的圖像，這意味著網路使用者無法用它來偵測 Meta 舊有 AI 模型創建的內容。目前也不支援生成式影片，儘管 Meta 表示這項功能「即將推出」。當 Meta 的偵測工具成功標記出使用其 Muse 模型製作或編輯的圖像時，會顯示以下資訊。

Meta 對其偵測工具每天可檢查 Content Seal 圖像的次數設有上限。Eischen 表示，這種速率限制旨在支援「正常使用」，同時保護偵測系統免遭濫用。Meta 並未說明何謂濫用——推測可能是試圖破解系統以避免浮水印內容被偵測——但 Google 和 OpenAI 的偵測工具也有類似的速率限制。

C2PA 是唯一不限制使用者檢查內容次數的系統。任何對偵測的限制都與大規模提升 AI 透明度的目標背道而馳，因此這感覺是 Meta 系統超越 SynthID 的一個錯失良機。

在 Facebook 和 Instagram 等 Meta 自家平台上，Eischen 表示，除了 Content Seal 浮水印之外，還會使用未指明的「中繼資料」來幫助使用者識別 AI 生成的內容。當我詢問 Meta 是否有指導 TikTok 和 LinkedIn 等其他掃描和標記 AI 內容的線上平台如何偵測 Content Seal 時，Eischen 回應說，該公司「決心與業界同行合作，確保使用者獲得最佳體驗」。

這聽起來像是對該標準的廣泛支援仍在進行中，這可能會導致 Muse 生成的圖像在 Meta 自家平台之外無法被有效標記。當我將使用 Meta Muse 模型製作的測試圖像輸入 Gemini 和官方 C2PA 偵測入口網站時，這兩個工具都無法確認該圖像是由 AI 生成的。

此外，還有一個問題是，Content Seal 是否可以與 SynthID 和 Content Credentials 同時應用於圖像和影片檔案，而不會干擾其他標準。Meta 對此並未提供任何公開說明。

Eischen 表示：「像其他公司一樣，我們根據自己的技術規格和產品原生開發了 Content Seal。解決整個生態系統中的這個問題需要多種方法協同合作，我們很高興能為此做出貢獻。」她補充說：「我們很快就會分享更多關於 Content Seal 的資訊。」

考量到 Content Seal 只能偵測使用 Meta 最新 AI 模型生成的圖像，我不禁要問這家公司這些年來都在做什麼。Meta 自 2023 年以來就提供了 AI 圖像生成工具，因此它已經產生了大量無法被自家專有系統偵測到的假內容。它還在 2023 年將 AI 標籤引入 Instagram 和 Facebook，當時卻因錯誤地將真實照片標記為「由 AI 製作」而激怒了許多攝影師。

三年過去了，Meta 仍然不確定如何將自己定位為 AI 內容的生產者，同時又是識別這些內容的解決方案，尤其是在其自家平台上。即使是 Meta 的高階主管，似乎也對下一步該怎麼做感到茫然。

在 Lenny Rachitsky 的播客採訪中，Instagram 負責人 Adam Mosseri 最初認同，不喜歡 AI 生成內容的人應該被允許將其排除在他們的社群動態之外——這聽起來非常像一個需要可靠 AI 標籤系統的過濾功能。他甚至暗示，真實性本身將變得更受歡迎，因為這是 AI 無法提供的。

Mosseri 說：「在一個合成內容充斥的世界裡，我認為人們實際上會更積極地尋求創造力、真實性和人際連結，而不是減少。」

然而，在同一次採訪中，Mosseri 卻表示「我認為我們不應該過濾掉 AI 內容」，同時又肯定「我們應該讓你知道內容是否為 AI 內容或不」。Mosseri 還重申了他之前表達過的一個觀點，即「對真實媒體進行指紋識別可能比對虛假媒體更實際」。

這讓 Meta 聽起來對自己開發可行 AI 標籤系統的能力缺乏信心。它有充足的時間來做這件事，卻在將其社群平台打造成「蝦子耶穌」和其他生成式腦殘內容的工廠後，Content Seal 的推出仍然感覺像是倉促上陣。

相較於相似且已成熟的 SynthID 系統，它沒有為消費者提供任何獨特的好處，反而只是為人們驗證 AI 內容製造了另一個障礙。或許 Meta 應該像 OpenAI 一樣，直接採用 Google 的浮水印標準。如果 Meta 這樣做了，Facebook 和 Instagram 的使用者可能會過得更好。

Eischen 告訴我，Meta 多年來一直在為開源浮水印研究做出貢獻，因此這項技術並非一蹴可幾，但我會期待它能提供更好的消費者體驗。

如果 Meta 堅持使用自己的解決方案，它需要的不僅僅是一個半生不熟的 SynthID 仿製品，才能證明它真的重視 AI 透明度——至少需要一個更可靠的系統。路透社已經發現，Content Seal 在測試中，對於經過裁剪的 Muse 生成圖像，有一半以上都未能成功偵測。