總部位於紐約的 AI 偵測新創公司 Pangram，致力於打擊網路上日益氾濫的 AI 劣質內容。他們剛募得 900 萬美元，這筆資金押注於市場對區分人類與 AI 生成內容工具的需求將持續增長。
Pangram 的募資由 Menlo Ventures 領投，Haystack、ScOp、Script Capital 和 Cadenza 參與。同時，該公司也推出了其新一代 AI 文字偵測模型 Pangram 4，以及 AI 圖像偵測模型 Pangram Image。
Pangram 表示，新的文字偵測模型在辨識 AI 輔助寫作和人類與 AI 混合內容方面，準確率超過 99%，並且能更容易地偵測出 AI 人性化程式。目前，AI 圖像偵測器僅提供研究預覽版；Pangram 計劃在未來幾週內更廣泛地發布。
Pangram 由史丹佛大學 AI 和機器學習畢業生 Max Spero 和 Bradley Emi 約兩年前創立。ChatGPT 的推出，為網路帶來了大量機器人、AI 生成的 SEO 劣質內容，以及 Spero 所稱的「由大型語言模型驅動的俄羅斯假訊息宣傳和阿聯酋在 Twitter 上的影響力活動」。
Spero 告訴 TechCrunch：「我認為知道你正在看的內容是否由 AI 生成，這點非常重要。」他補充說：「特別是閱讀文字時，因為這會改變人們對待文本的方式。我是否需要提防幻覺並抱持懷疑態度，還是我可以相信這是由真正記者精心研究的內容？」
Pangram 的 AI 偵測系統本質上是一個大型機器學習模型，它在數千萬份已知的人類文件中進行訓練。該新創公司隨後為每份文件創建了一個「合成鏡像」，複製了主題、長度和語氣，但由前沿大型語言模型撰寫。
Spero 表示：「我們的模型正在學習 AI 一貫的風格差異和選擇，並能夠利用這些資訊，以高置信度判斷內容是否由 AI 生成。」他補充說，這個 AI 偵測器不依賴複製貼上的元數據或隱藏浮水印。
對於 Pangram 而言，AI 偵測不僅僅是判斷一段文字是否完全由 AI 撰寫。它還關乎區分 AI 輔助的程度，例如有人自己寫完內容後，再請 AI 編輯或潤飾。Spero 認為，只要作者披露其 AI 使用情況，AI 輔助是可以接受的。
Pangram 的出現正值 AI 使用日益普及之際。在某些情況下，例如加拿大政治人物在向議員發表演說時，將 AI 提示詞直接唸出來，導致了嘲笑。而在其他情況下，例如某些律師使用 ChatGPT 創建的虛假引文來辯護，則可能面臨制裁和罰款。
這種反彈也開始體現在機構規範中。
開放存取檔案庫 arXiv 今年推出了一項新的執行政策，規定提交內容若有證據顯示作者未能審查大型語言模型輸出（例如幻覺引文或元評論，如「您希望我進行任何更改嗎？」），可能會導致一年的提交禁令。
Pangram 並非唯一一家看好 AI 偵測需求將日益增長的公司。Winston AI、Originality.ai、Copyleaks 和 GPTZero 等競爭對手也都在追逐相同的市場需求，各自開發自己的偵測器。
儘管 Pangram 的技術並非完美，但它有助於推動人們抵制充斥網路、法庭和學術論文的 AI 生成內容。
使用者可以透過每月 20 美元的網路訂閱或下載 Chrome 擴充功能來使用 Pangram。該擴充功能可在 X、LinkedIn、Substack、Reddit 和 Medium 上即時自動標記貼文，並提供一個內容健康分數，顯示螢幕上人類與 AI 內容的百分比分佈。
Pangram 也透過 API 提供其技術。值得注意的是，Substack 最近將 Pangram 的技術整合到其平台中，以向讀者顯示他們喜愛的作者是否使用 AI 撰寫電子報。Spero 表示，其他 API 客戶包括 Quora、學校和大學、出版商和代理商，以及招聘人員等。
Pangram 的偵測效果如何？
Spero 提到，Pangram 模型大約每 10,000 份人類文件中，會有一份被錯誤標記為 AI 生成，因此 TechCrunch 決定進行測試。文字偵測模型表現令人印象深刻，但並非完美。它能輕易標記出 ChatGPT 和 Claude 完全生成的報導，且 TechCrunch 試圖將 AI 生成文字修改得更像人類時，也很少能騙過它。
然而，Pangram 確實將 TechCrunch 完全重寫的句子標記為 AI 撰寫。
TechCrunch 嘗試引導 ChatGPT 和 Claude 生成內容時，使其避開 AI 偵測器，但 Pangram 完全沒有被騙過。
TechCrunch 也將自己的一篇文章交給 ChatGPT 和 Claude 潤飾。Pangram 給出了 13% 的 AI 輔助分數，這可能接近實際情況，但模型能夠偵測到某些句子中細微的措辭變化，卻又忽略了其他部分。它還將一些人類撰寫的句子標記為 AI 輔助。值得注意的是，當 TechCrunch 將同一篇文章完整地、以自己撰寫的方式提供給 Pangram 時，它獲得了 100% 的人類分數。
也許問題在於新聞報導可能有些枯燥，容易聽起來像 AI 生成。因此，TechCrunch 嘗試了不同的策略。TechCrunch 將自己更具個人風格的 Substack 電子報內容，將前半部分貼入 Pangram，然後要求 ChatGPT 和 Claude 模仿其風格撰寫後半部分。結果顯示，Pangram 大部分情況下都能輕易區分人類撰寫和 AI 撰寫的內容。
TechCrunch 對 Pangram 新的圖像偵測模型進行的有限測試，結果同樣令人印象深刻。
Pangram 的 AI 圖像偵測系統承諾能跨 AI 模型偵測 AI 生成圖像，這與 OpenAI 或 Google DeepMind 主要偵測自家輸出的浮水印檢查不同。它透過像素級分佈運作，學習真實照片和 AI 生成圖像之間細微的統計差異。Spero 表示，該模型甚至能偵測出出現在真實照片中的 AI 圖像。
在 TechCrunch 的測試中，該模型能輕易偵測出 AI 生成的圖像，無論是寫實風格還是卡通風格。TechCrunch 也能證實該模型能偵測出出現在真實照片中的 AI 圖像——Pangram 提供的熱圖清楚地在圖像上方亮起——儘管在一個案例中，它錯誤地將一張 AI 生成圖像的照片標記為人類內容。
Spero 表示，他不希望他的技術助長對使用 AI 寫作的人進行「獵巫」，但他認為需要某種機制來反擊劣質內容。
Spero 說：「我所預見的未來是，AI 內容將持續大量增長。我們獲得新 GPU 的速度比新生兒出生還要快。如果我們不積極區分並偏好人類內容，那麼我們只會看到越來越多的 AI，它將淹沒我們所擁有的任何人類訊號。」