今年稍早，我們瓦解了一個位於柬埔寨的詐騙集團，該集團利用 ChatGPT 協助進行投資、感情、賭博和冒充執法機關等詐騙計畫。
我們在收到 WhatsApp 同業提供的線索後開始調查此活動，並已與業界合作夥伴及相關當局分享了更多威脅信號。
這次行動揭示了現代詐騙網絡的一個重要現實：有組織的犯罪集團很少只專注於單一類型的詐騙。相反地，他們會伺機運用各種敘事、虛假身份和策略，以最有效地欺騙受害者。
在我們的調查中，我們經常觀察到詐騙者在不同詐騙類型之間轉換，或在單一行動中結合多種詐騙手法。
該網絡中的一些使用者也生成了暗示與人口販運和強迫犯罪相關的內容。這些觀察結果與大量公開報導一致，這些報導描述了東南亞的組織犯罪集團如何以合法工作的承諾招募工人，然後將他們困在債務奴役和脅迫的系統中。
雖然我們無法獨立判斷每個涉案人員的具體情況，但這項活動提醒我們，執行詐騙的人本身也可能是受害者。
該網絡利用我們的模型來建立和維護虛假的線上身份、生成和翻譯發送給詐騙目標的訊息、為其欺詐計畫製作宣傳內容，並協助日常營運。
就像我們過去瓦解的詐騙網絡一樣，一部分使用者也將 ChatGPT 用於行政工作，包括起草內部公告、翻譯員工之間的訊息，以及記錄與招募、移民身份、工作條件和員工紀律相關的事項。
該網絡同時進行多種類型的詐騙，經常將不同計畫的元素混合在一起。例如，詐騙者利用交友身份建立信任，然後引入涉及加密貨幣和現貨黃金交易的詐騙性投資機會。
其他使用者則利用虛假身份與目標進行長時間的感情對話，或冒充線上賭博平台的代表提供虛假獎金和獎金，或冒充執法機構告知目標他們需要支付嚴重刑事犯罪的罰款。
儘管敘事內容各不相同，但該網絡中的使用者始終展現出相同的欺騙行為模式。例如，他們建立並操作虛假的交友檔案、虛構的投資專家和詐騙性的執法身份。他們還生成了偽造文件的圖像，包括護照、法律通知、股票購買確認書和賭博平台介面。
詐騙開始：該網絡利用 ChatGPT 在 WhatsApp 和 Telegram 等訊息平台上翻譯並生成與目標的對話。詐騙者還製作社群媒體內容，並研究交友檔案素材以支持其虛假身份。
詐騙升級：詐騙訊息經常依賴情感壓力與建立信任的技巧。例如，承諾保證回報和「無風險」投資、使用浪漫語言、指示對話保密，以及在虛構獎金到期前緊急要求採取行動。
詐騙得逞：詐騙者指示受害者存款以解鎖所謂的獎勵、支付啟用費、結算虛構的罰款，然後提供轉帳截圖或帳戶資訊作為付款證明。
除了詐騙之外，一些使用者還生成了暗示參與其他違法活動的內容，例如人口販運或強迫勞動，這些活動也是我們偵測並瓦解的目標。這包括在社群媒體上為波貝（Poipet）的「聊天員」職位製作廣告，承諾提供機票、住宿、餐飲、簽證和工作許可。
其他活動似乎與該行動內部工人的管理有關。使用者維護著員工債務、薪資扣除、紀律罰款和貸款償還的記錄，並翻譯了關於移民身份、工作許可、簽證逾期和招募獎勵的討論。
一些對話還提及了明顯的拘禁、逃跑嘗試，以及那些被販運並被迫在詐騙行動中工作的人可能面臨的刑事責任。雖然這些對話無法讓我們確定任何特定個人的情況，但它們與大量公開報導中描述的東南亞組織犯罪集團活動一致。
我們已封鎖與此行動相關的 ChatGPT 帳戶，並與業界合作夥伴及相關當局分享了相關指標，同時採取措施讓這些詐騙者更難重新取得我們的產品和服務。
儘管該網絡造成的財務損失總額不明，但根據詐騙者自己的通訊內容，該行動可能已與數百名不同類型詐騙的目標互動。使用者對話中提及個別受害者損失數千美元，儘管我們無法獨立核實這些說法。
更廣泛地說，此案例強化了兩種趨勢。首先，有組織的詐騙網絡可以高度多元化，同時操作多種詐騙計畫，而非僅限於單一詐騙類型。其次，線上詐騙、組織犯罪和人口販運之間的界線往往模糊不清。因此，有效的瓦解行動不僅需要針對受害者面臨的詐騙活動，還需針對策劃並從中獲利的犯罪組織。