資安研究員 Matthew “Zigula” Gore-Kormanik 在分析一款名為 Dora 的詐騙交友應用程式時，收到一則彈出訊息，顯示他接到 Jennifer 的來電。根據她的個人資料，Jennifer 是一位 41 歲的射手座，紅髮、藍眼，有穿環，喜歡音樂、恐怖電影、夜生活和運動。
Gore-Kormanik 接聽了電話，但在他的視訊畫面中並未看到 Jennifer。他看到一塊移動的掛毯，可能是風扇造成的，並聽到背景有奇怪的雜音。通話結束後，「Jennifer」傳訊息給他說她玩得很開心，而且「你的聲音比預期好聽多了」。然而，他的麥克風甚至沒有接上。
Gore-Kormanik 正在調查 Dora 和其他類似應用程式，因為我與他分享了一份潛在交友詐騙應用程式的試算表。我之所以調查此事，是因為 6 月 5 日，Anthropic 做了一件不尋常的事：這家通常守口如瓶的公司，讓其威脅情報研究員 Chris Cronbaugh 在一場名為 Sleuthcon 的公開資安會議上發表演講。
該公司在注意到 Claude 上不尋常的活動後，發現了一個詐騙交友應用程式網路：一個預付帳戶每天發送超過 10 萬個 API 請求。大部分的聊天根本沒有真人客服參與。
在題為「向右滑，付錢：工業規模的 AI 網路釣魚詐騙」的演講中，Cronbaugh 描述了一個約 28 個交友應用程式組成的網路，其中對話主要由自主 AI 角色運行。他說，大部分聊天根本沒有真人客服參與。Anthropic 此後已在其「偵測與反制 AI 濫用：2026 年 9 月」報告的「詐騙與舞弊」部分發布了其發現，但這是在我們花費大量時間調查該網路並試圖證實這些發現之後。
我對 Anthropic 公開談論此事感到好奇，因為許多應用程式當時仍活躍於美國兩大應用程式商店，我不禁想知道為什麼它們沒有被下架。查看這些應用程式本身，我注意到它們被宣傳為幫助人們找到聊天對象。它們看起來不像 Replika 這類明確表明角色是 AI 的陪伴應用程式。
例如，Dora 被描述為「一款專為各年齡層人士精心設計的交友應用程式……一個尊重且易於使用的空間，讓您遇見志同道合的人」。另一個版本則說它是一個「溫馨、簡單的交友應用程式，專為尋求真實連結的成年人設計」。Romi 的描述則指出，「幫助您探索、連結並與真人聊天」。Doni 的標語是「開始真正的陪伴」；其描述稱它「幫助您與附近的單身人士連結」。
詐騙的運作方式如下：使用者（大多是 30 歲中後期男性）在交友應用程式上與他們認為是真實女性的對象配對。但其中只有四分之一是真人，而且這個人並非尋找約會對象的使用者，而是支薪的零工。這些零工被僱用來進行視訊活體檢查或追蹤社群媒體帳號。
他們甚至不自己撰寫評論。相反地，他們透過從三個預先生成的回答中選擇來回覆訊息。但他們可以證明自己是真人，而 AI 角色只能以合理的解釋推託，說明為何無法進行視訊聊天或通話。Anthropic 的報告指出：「後端元件偽造了按讚、訪客和預錄的『視訊』，當沒有真人可用時，並追蹤哪些使用者開始懷疑他們正在與機器人對話。」
由於與真人的少量互動，一些使用者開始相信他們在應用程式上收到的完全由 AI 生成的回覆也是來自真人。
此詐騙涉及多個 AI 供應商。雖然 Claude 被濫用來運行自主對話角色，但報告指出：「一個小型非 Anthropic 模型生成了零工點擊的簡短回覆建議，同時還有臉部吸引力評分和照片/語音審核。一個圖像編輯模型則生成了頭像圖像。」
存在著一個完整的線上詐騙生態系統，從自動化的誘惑回覆到假社群媒體帳號或交友應用程式個人資料。在許多情況下，人們會花數月時間建立信任，然後才告訴受害者有緊急情況需要經濟援助。或者他們假裝是投資者，要求將錢存入他們擁有的帳戶，而該帳戶最終卻是假的。但這並非典型的感情詐騙；沒有假戀愛對象「借錢」，也沒有涉及加密貨幣。
這些應用程式本身就是詐騙：它們要求購買虛擬貨幣以繼續互動，而這些虛擬貨幣需要真錢購買。使用者購買它們主要是為了與機器人對話，卻相信他們正在與其他人聊天。這些零工維持著騙局，而 AI 則可以 24/7 保持對話，只要虛擬貨幣持續流入。
根據 Anthropic 的報告，給予 AI 的提示詞保持了角色的一致性，AI 的運作方式如同這些對話是「一般角色扮演或陪伴部署」。但 AI 並未被告知它是詐騙的一部分，因為該公司寫道：「變現和欺騙在任何對話中都不可見。」
儘管如此，報告指出，在少數情況下，「模型自身的推理揭示了危害」，包括「使用者透露嚴重疾病或極度痛苦」的情況。即使在這些情況下，「輸出仍維持角色設定」。
我們有更多細節，因為 Gore-Kormanik 找到了整個操作的內部協議儲存庫，包括檔案、程式碼和運作方式的文件。這份中文手冊可能是不小心隨 Doni 交友應用程式一起發布的。在協議儲存庫中，Gore-Kormanik 發現了監控零工的筆記，以查看他們的攝影機是否開啟並廣播，是否能透過訊息聯繫等等。
該應用程式還會截圖並錄製通話，並進行轉錄，員工可以檢索這些文字記錄。該協議儲存庫描述了員工流程的各個階段，包括他們互相評比表現，以及他們的薪資如何基於通話和訊息互動，或獲得 Instagram 追蹤者。它甚至描述了假裝有人打給你以引誘他們進入對話的過程。
「我可以證明這一點，因為我親身經歷過，」Gore-Kormanik 說。他點擊接受了透過 Doni 收到的一個電話，但電話很快就斷線了。來電者傳訊息問他為何凌晨一點打給她。應用程式清楚顯示通話來自她。一位評論者寫道：「隨機視訊通話很煩人。購買『寶石』與可能不是真人而是聊天機器人的女性聊天，這是欺騙且卑鄙的行為。」
遠端觀看 Sleuthcon 演講時，我截取了 Cronbaugh 投影片的一張圖片，上面有 10 家公司的標誌。反向圖片搜尋幫助我識別出許多最終出現在 Anthropic 最終報告中的應用程式，包括 Dora、GraceChat、Jovia、Luma 和 Romi。
還有其他與這些應用程式開發者相關的應用程式，例如 Doni 和 Kira。Anthropic 在報告中列出了一些其他應用程式，並表示還有其他僅透過內部數字識別的變體。我們調查了其他未出現在 Anthropic 最終報告中的應用程式。
6 月初，幾款假交友應用程式仍在 Google Play 商店上架：Doni、Dora、Jovia、Nalo 和 Romi。在 Apple App Store 上，我們發現了四款：Dora、GraceChat、Luma 和 Romi，儘管 Dora 和 GraceChat 似乎不是交友應用程式，只是與 Chrome-Stats 同名和標誌的應用程式。
Doni 和 Jovia 於 9 月 1 日從 Google Play 商店下架。
似乎幾乎所有應用程式都在 Anthropic 報告發布前從兩個應用程式商店下架，儘管有些直到 9 月才下架。根據 Chrome-Stats 的數據，GraceChat、Luma 和 Romi 於 8 月 21 日從 Apple App Store 下架。
Dora 現在重定向到一個電影應用程式。在 Google Play 商店，Dora、Romi、Luma 和 Eterna 於 9 月 3 日下架，Nalo 於 9 月 7 日下架。但截至 9 月 16 日，Kira 仍在架上，Gore-Kormanik 證實它與其他應用程式共用相同的程式碼庫。
Anthropic 未回應關於如何或何時就這些應用程式聯繫 Google 和 Apple 的置評請求。但在演講中，Cronbaugh 說：「就像我們在其他觀察到其他平台濫用行為的案例中一樣，我們已與這些其他供應商分享了調查資訊，以便他們也能在其平台上採取行動。」報告稱，其發現已直接與 Apple 和 Google 分享。
Apple 和 Google 未立即回應關於是否已下架這些應用程式、何時下架以及為何耗時如此之久的置評請求。Google 也未回應關於為何 Kira 仍在 Google Play 商店上架的置評請求。Anthropic 報告中列出的一個指標是「Backend. managedkafka[.]heyhru-server[.]cloud[.]goog，託管在 Google Cloud 上的營運後端」。
由於這些應用程式在演講後運作了數月，這引發了 Google 為何沒有更早關閉基礎設施存取的問題。Google 也未立即回應關於此事的置評請求。
Gore-Kormanik 在他的實驗室中設置了模擬器，並提取了 Doni、Dora、Jovia、Kira、Nalo、Romi 和另一個我們認為可能屬於該網路的應用程式的 Android 應用程式套件 (APK)。這樣做可以更容易地檢查應用程式的運作方式。從那裡，他進行了靜態分析，這意味著他在應用程式未運行時分析程式碼。他還使用名為 Frida 的工具進行了一些動態分析。
Frida 是一個測試應用程式，允許開發人員打開應用程式，監控和捕獲流量，並查看它們呼叫了哪些端點。他試圖更好地了解它們的運作方式、它們使用的基礎設施以及哪些應用程式作為網路的一部分相互關聯。雖然我們無法獨立證實 Anthropic 在 Sleuthcon 演講中的所有發現，但很快就開始發現這些應用程式之間的聯繫。
僅僅瀏覽應用程式描述就變得清晰。例如，Dora、Romi、Luma 和另一個名為 Eterna 的應用程式都擁有相同的開發者使用者名稱 aprilsaidev。它們還使用相同的電子郵件地址、郵寄地址和電話號碼。Dora、Romi 和 Luma 也共用相同的開發者身份，一個名為「反人口販運聯盟」的非營利組織。
反人口販運聯盟的總裁兼共同創辦人 Jenna Bing 表示，該組織並未開發這些應用程式，甚至不知道它們的存在。
Doni 歷史上與 Jovia 和一個名為 Poka 的應用程式一同出現在開發者名稱 iLexis Multimedia Consults 之下。Jovia 和 Doni 共用相同的香港地址和電話號碼。評論者也發現了聯繫。Kira（仍在架上的應用程式）的一位評論者寫道：「充滿假帳號和假裝是真實帳號的付費員工。
與一個『配對對象』約好早餐約會——當『使用者』說她在外面時，我已經在現場了，但她卻說接到緊急電話。她不在外面（我能從窗戶看到）——外面根本沒人。完全是詐騙。」
另一則評論寫道：「隨機視訊通話很煩人。購買『寶石』與可能不是真人而是聊天機器人的女性聊天，這是欺騙且卑鄙的行為。」該評論者接著寫道：「無限訊息會很棒，真實女性會很棒，只要對話雙方同意就能交換聯絡資訊會很棒。」該評論者還指出，配對對象回覆太快，但卻不是針對實際說的內容。
Kira 未立即回應關於 AI 角色和計費對話的置評請求。一位評論者將 Dora、Doni、GraceChat 和 Romi 稱為同一個應用程式。