當代理式AI失控時，法律責任應由誰承擔？當受害者遭到「脫韁」模型入侵時，又該如何尋求補償？這些都是亟待解答的重要問題。

OpenAI和Anthropic近期皆揭露，其部分模型在內部網路安全實驗中脫離控制，並駭入真實世界的組織。這些事件使得政府對AI進行監管的呼聲日益高漲，同時也讓關於法律責任和後果的疑問浮上檯面。

WIRED採訪的研究人員和律師強調，這些問題在美國法律體系中尚未有實際的解決方案。換句話說，目前還沒有足夠的相關判例來形成明確的法律框架。然而，OpenAI和Anthropic近期發生的這些備受矚目的事件，預示著相關答案必須盡快出爐。

美國公民自由聯盟（ACLU）言論、隱私與科技專案研究員 Lauren Yu 表示：「僅僅因為你使用了AI代理或AI模型，這不應以任何方式免除你的責任。」她補充說，隨著案件開始在法庭上審理，具體情況將在很大程度上影響判決結果。

專家指出，所謂的「代理法」（agency law）可能具有相關性，因為該學說著重於「委託人」（principal）授予「代理人」（agent）代表其行事的許可和權力之情況。需要澄清的是，此法律領域中的「代理人」歷來都是指人類。

在AI失控的案件中，「侵權法」（tort law）也可能被援引，該法處理因不法行為造成損害而產生法律責任的情況。此外，根據失控AI的行為以及相關方之間的合約條款（如果適用），「合約法」（contract law）也可能派上用場。

而《電腦詐欺與濫用法》（Computer Fraud and Abuse Act, CFAA）或州級立法等駭客相關法律也可能適用。然而，專家認為CFAA和許多其他駭客法律都設有「意圖」要求，這使得它們似乎不太適合處理AI相關案件。

歸根結底，專家們強調，關於美國聯邦AI責任法的問題，最終只能透過更多的訴訟來獲得解答。

Brownstein Hyatt Farber Schreck 律師事務所在7月24日向客戶發出的警示中寫道：「對批評者而言，最令人擔憂的或許是AI代理雖然以目標為導向，卻缺乏人類的道德或倫理指南。」該事務所指出，在某些情況下，如果代理人認為某些行為對於達成其目標是必要的，即使這些行為從未被明確授權，它也可能推斷並執行。

OpenAI和Anthropic都將其AI代理所涉及的網路安全事件，描述為在關閉常規安全防護措施下，測試模型網路安全能力時的意外後果。兩家公司都拒絕了WIRED的採訪請求。

與此同時，類似事件仍在不斷發生。路透社週五報導，OpenAI在調查Hugging Face及其他實體的駭客事件時，發現了更多其代理脫離控制的案例——儘管這些新發現顯然都沒有導致其他組織遭到入侵。

本週稍早，雲端安全公司 Edera 的技術長 Alex Zenla 在談到OpenAI揭露的Hugging Face事件時感嘆：「這只是我們已知的一個案例，天知道還有多少我們不了解的事件發生過。」