數週以來,華府一直熱烈討論推動 AI 監管的必要性,因為各界對高能力前沿 AI 模型失控的風險日益擔憂。然而,目前沒有任何一項措施能獲得白宮的支持,官員們在川普總統對此概念感到不悅後,已暫停建立類似 FINRA 的監管機構。國會山莊的議員們也提出相互競爭的提案,但都缺乏足夠票數通過。
據知情人士透露,Google DeepMind 共同創辦人 Demis Hassabis 在 7 月 14 日的一篇文章中,以及向高階官員的簡報中提出建立 AI 監督機構的想法後,白宮助理們隨即開始草擬一個與政府相關的 AI 監督機構框架。財政部和白宮科技政策辦公室設想了一個由領先 AI 實驗室自我監管前沿模型開發的機構,並準備了一份初步草案,以探討其執行樣貌。
然而,當包括川普前 AI 沙皇 David Sacks 和 Meta 執行長 Mark Zuckerberg 在內的眾多科技業高層得知這項努力後,他們在八月份紛紛致電川普表達反對。此提案自此便被擱置。
消息人士指出,自那以後,白宮再也沒有認真考慮任何新的 AI 監督提案。尤其是在川普近日加倍拒絕任何公開監管,並在 Truth Social 貼文中稱 AI 安全擔憂為「騙局」之後。
川普的憤怒至少部分源於 Anthropic 執行長 Dario Amodei 一篇長達 3,822 字關於前沿 AI 危險性的信件。一位消息人士表示,川普的助理們認為這封信煽動了不必要的焦慮,給政府帶來了麻煩,儘管這在 AI 圈內是一個相當溫和的立場。
在白宮未能主導的情況下,國會中出現了幾項法案,但由於眾議院在期中選舉前已無投票日,且甚至沒有一項法案能獲得統一支持,任何法案通過的可能性都微乎其微。
由眾議院民主黨資深黨鞭 Lori Trahan 和共和黨眾議院能源與商業委員會成員 Jay Obernolte 今年夏天共同提出的兩黨「邊境法案」(Frontier Act),被廣泛認為在眾議院民主黨黨團和 AI 業界高層中獲得最多支持。
根據草案,該法案將允許商務部派遣稽核員進駐 AI 實驗室,他們可以報告關鍵安全事件,並授權政府在模型構成災難性風險時停止開發。
然而,儘管獲得 OpenAI 的公開支持,白宮對於是否支持使用獨立稽核員的概念仍猶豫不決,因為 AI 加速主義者擔心監管俘虜,而國家安全鷹派則擔憂中國問題。
川普陣營反對此想法的主要論點是,即使稽核員認定某個模型危險並需要下線,也無法保證中國會暫停開發或停止嘗試逆向工程前沿 AI 權重。
屆時將面臨巨大壓力,要求解除任何緊急開發暫停,以保持領先中國,這將徹底破壞設立稽核員以推動商務部讓模型下線的整個前提。
儘管如此,「邊境法案」的主要問題仍然是黨派政治。眾議院民主黨領導層助理向 Inner Loop 透露,即使該法案最終獲得足夠票數通過,共和黨議長 Mike Johnson 也無意將其提交院會審議。
為了繞過程序障礙,兩位眾議院領導層助理表示,眾議院民主黨正考慮將該法案的一些 AI 稽核條款納入必須通過的立法中,例如為政府提供資金的持續決議案。
然而,該法案是否擁有足夠票數仍不明朗。即使在眾議院民主黨內部,也並非所有人都支持;一些關鍵議員,例如曾任眾議院民主黨 AI 委員會成員的紐澤西州眾議員 Josh Gottheimer,尚未簽署該法案。
此外,還有所謂的「終止開關」立法,將允許政府強制關閉 AI 模型。這項立法獲得兩黨和兩院的支持,但矽谷的科技業高層對此興趣不大。
目前有兩項相互競爭的終止開關提案:一項來自眾議院民主黨黨團副主席 Ted Lieu,另一項則由路易斯安那州共和黨參議員 John Kennedy 本週提出。
消息人士稱,科技界領袖對終止開關法案大多持矛盾態度,因為 AI 工程師主要擔心的並非模型在被觀察時表現不佳,而是當它們認為自己未受監控,並被激勵採取極端措施來完成任務時的行為。
例如,Hugging Face 的駭客事件直到結束後才被發現。一些科技業高層私下向 WIRED 表示,如果終止開關的目的是阻止 AI 模型失控,那麼在損害已經造成之後才將其關閉,意義並不大。
因此,儘管關於 AI 模型可能毀滅人類的討論充斥媒體,美國政府目前似乎不太可能採取任何行動。至少在事件迫使所有人採取行動之前都是如此。
