即使沒有聊天紀錄,不列顛哥倫比亞省仍指控ChatGPT的缺陷不在於用戶,而在於其設計。據稱,OpenAI關閉了本應終止Tumbler Ridge相關對話的功能,隨後推出了一個更迎合用戶的模型,而OpenAI已知該模型曾協助過意圖造成現實世界暴力的用戶。
自ChatGPT發布以來,模型規範一直指示聊天機器人在用戶發起暴力對話時,應「假定善意」且「不探究意圖」。不列顛哥倫比亞省要求法院命令OpenAI修改這兩項具體指令。
然而,社群和不列顛哥倫比亞省都希望看到聊天紀錄,該省也正在資助這些紀錄的恢復工作。該省聲稱,ChatGPT的聊天紀錄將顯示OpenAI的產品危險地「助長了槍手的精神不穩定」,透過鼓勵、詳細闡述和強化暴力思想,而非「中斷對話或引導用戶尋求現實世界的幫助」。
如果敗訴,OpenAI可能面臨巨額賠償,包括支付緊急應變費用的命令。若未能向警方發出警告被認定為蓄意行為,OpenAI還可能面臨懲罰性賠償。
訴狀指出,OpenAI「一再向用戶和公眾聲稱,它能偵測出對他人構成危害風險的用戶,將此類對話轉交給受過訓練並獲授權的審查員處理,並將迫在眉睫的嚴重人身傷害威脅轉報執法部門」。訴訟稱,OpenAI「既然自願承擔並履行了法律要求警示義務的保護職能」,就「不能否認其公開承擔的責任」。
Altman的道歉並不足夠。2026年4月,Altman公開承認OpenAI辜負了Tumbler Ridge社群。Altman表示:「對於我們未能在6月向執法部門通報被封禁的帳戶,我深感抱歉。」然而,不列顛哥倫比亞省指出該帳戶從未被封禁,並認為這項道歉「承認」了「OpenAI在安全團隊識別出暴力風險後,並未通知執法部門」。
為確保最暴力的對話能始終轉報警方,該省要求法院命令OpenAI定期進行獨立稽核。訴訟稱,該公司的行為「令人不齒」。訴訟還指控,「如果OpenAI實施了有效的用戶封禁」,槍手就不會繼續使用ChatGPT,而這據稱「增加了槍手的致命性」。此外,如果OpenAI向執法部門通報了該用戶,槍手使用的任何武器都可能已被移除,因為槍手當時已在當地執法部門的監控名單上。
