根據 WIRED 看到的一項最新研究，過去幾年來，歐洲近 150 名政治人物被列入有害的深度偽造色情網站。其中，絕大多數是女性政治人物，她們的肖像被用於露骨影片，而另一些人的姓名和照片則被列在令人不安的資料庫條目中，這些條目可能連結到深度偽造生成工具。
研究員 Benjamin Shultz 對約 160 個託管深度偽造濫用及其他未經同意性內容的網域進行分析，發現來自 22 個歐盟國家的至少 138 名女性國會議員曾出現在這些網站上或被提及。相較之下，只有 9 名男性國會議員以任何形式被提及。根據 Shultz 的計算，女性國會議員被深度偽造生態系鎖定的可能性是男性的 33 倍。
荷蘭進步黨國會議員 Suzanne Kröger 表示：「深度偽造色情是針對女性和女性政治人物的網路仇恨與恐嚇這一更大趨勢的一部分。」Kröger 對這項研究的發現感到憤怒，稱其「令人深感不安」，並有助於揭示濫用的規模。Kröger 說：「我們是政治人物，我們有平台可以發聲。但同時，數百萬女性是這些犯罪行為的受害者。」
這項研究由德國數位民主智庫 Agora Digitale Transformation 發布，主要關注歐盟 27 個國家的國家級國會議員。Agora 的研究員兼美國陽光計畫（American Sunlight Project）的首席研究員 Shultz，於七月彙編了歐洲 5,800 多名國會議員的詳細資料，然後使用客製化搜尋引擎來查找他們在深度偽造網站上的出現情況。（該研究不包括歐洲議會議員）。
研究結果顯示，來自德國、荷蘭、義大利和法國的政治人物在這些網站上出現的次數最多，而且政治人物的職位越高，他們被鎖定的可能性就越大。Shultz 已個別通知所有受影響的國會議員，並提供如何移除內容的指導。他表示，這些網站還包括名人、記者和其他公眾人物的描繪。WIRED 為了避免進一步引起對這些濫用圖像的關注，未點名這些網站。
多位研究人員和立法者表示，儘管政治人物多年來一直受到深度偽造的攻擊，但這可能會損害民主實踐，並產生寒蟬效應，阻止女性和女孩成為公眾人物。Shultz 說：「這首先會阻礙女性擔任公職，也會將這些女性排擠出公共生活。有大量證據支持這確實會造成真實的心理傷害，如果她們想淡出政壇並從事其他職業，這也會對她們未來的聲譽造成損害。」
荷蘭社會黨國會議員 Sarah Dobbe 也是受害者之一，她表示：「深度偽造影片被用來恐嚇政治人物，也用來貶低女性。非常重要的是，如果女性或女孩以這種方式受害，她們可以在需要時獲得直接支持，並且內容能夠迅速被移除。」
在 Shultz 監測的網站中，他將多種類型的濫用內容或行為進行了分類。他的結果包括國會議員出現在網站主動託管的內容中、內容已被移除的索引結果，以及一些可能創建新內容的個人資料和「入口」。
許多網站託管的頁面包含國會議員的姓名、官方照片，在某些情況下還有他們的社群媒體個人資料或個人資訊。Shultz 的報告指出，有些網站甚至包含「評價」女性身體的區塊。這些國會議員簡介旁邊通常會連結到所謂的「裸體生成應用程式」（nudifier apps）或網站自己的工具，聲稱可以數位化地脫掉人們的衣服。
Shultz 說：「它有所有的圖像、所有的資訊，以及直接連結到工具，只需點擊三下就可以生成。這和實際託管內容一樣糟糕。」
自 2017 年底 AI 生成的深度偽造首次出現以來，生成它們的底層技術已變得更加普及，工具的輸出也變得更加逼真。隨著時間的推移，數百萬張未經同意的 AI 圖像和影片被創建，主要由男性和男孩製作，並經常被用於騷擾、恐嚇或勒索女性和女孩，包括全球近百所學校的案例。
AI 顧問和深度偽造專家 Henry Ajder 自 2018 年以來一直追蹤這個生態系，他表示：「這些平台旨在像企業一樣運作。」他認為，政治人物以這種方式成為目標並不令人驚訝，但這些發現有助於歐洲官員了解問題的嚴重性。他說：「整個基礎設施都是為了大規模且輕鬆地做到這一點而建立的。」
總體而言，立法者在引入立法以解決深度偽造造成的日益增多的危害方面一直進展緩慢。然而，最近幾個月，一些法律已開始被引入。英國和歐盟都計劃禁止裸體生成服務，而在美國的《移除法案》（Take It Down Act）下，至少有兩個發布數千張名人圖像和影片的主要深度偽造網站已被下架。
記者揭露這些網站幕後黑手的報導也導致主要網站被下架。在本文發布之前，WIRED 發現研究中出現的至少六個網域最近已從網路上移除，從而減少了歐洲國會議員的描繪總數。
Shultz 也正在研究英國和美國政治人物的描繪數量，他曾分析 2024 年有多少美國參議員和國會議員出現在深度偽造網站上。Shultz 表示，在這些網站被下架後，兩年前出現在網站上的美國政治人物描繪數量「顯著減少」。
Kröger 表示：「確保這些圖像被移除是當務之急，同時也需要對這類技術進行強力監管。」