商業
白宮考慮AI模型發布前審查,Anthropic「Mythos」引發政策轉向

摘要
美國白宮在經歷一年的AI產業鬆綁後,正考慮頒布行政命令,要求新AI模型在發布前須經過政府審查。此政策轉向主要受Anthropic極其強大的「Mythos」模型影響,該模型因其識別軟體漏洞的能力而未公開發布,引發對潛在網路攻擊的擔憂。白宮已就此計畫向Anthropic、Google和OpenAI等主要AI公司進行簡報。
在經歷一年的放鬆管制後,白宮目前正討論一項行政命令,可能要求新的AI模型在發布前須接受政府審查。其導火線似乎是Anthropic的「Mythos」模型。川普政府正在權衡其AI政策的根本性轉變。根據《紐約時報》報導,白宮正在討論一項行政命令,該命令將成立一個由科技業高層和政府官員組成的工作小組。該小組將審查潛在的監督程序,包括對新AI模型在公開發布前進行正式的政府審查流程。《泰晤士報》引述知情人士報導,白宮上週在會議中向Anthropic、Google和OpenAI的代表簡報了這些計畫。據稱,英國的模式正作為範本,該模式由多個機構評估AI系統是否符合特定的安全標準。白宮發言人向《The Information》表示,這些報導是「猜測」,並稱任何政策聲明將直接由川普發布。這項政策轉變始於四月,當時Anthropic推出了其Claude Mythos模型。Anthropic表示,該系統在識別軟體漏洞方面極其強大,以至於該公司拒絕公開發布,並警告它可能引發一場網路安全「清算」。美國國家安全局(NSA)已在使用Mythos來評估美國政府軟體中的漏洞。據報導,白宮內部越來越擔心,一旦由AI驅動的網路攻擊造成重大損害,可能引發的政治後果。一些官員正在推動建立一個審查系統,該系統將允許政府優先接觸新模型,同時不阻礙其發布。這項討論標誌著政策的急劇轉變。川普重返白宮後,曾撤銷拜登政府的監管措施,包括對具有潛在軍事應用模型進行強制性安全評估。七月時,他稱AI為「美麗的嬰兒」,不應被「愚蠢的規則」甚至「笨拙的規則」所阻礙。在巴黎舉行的一次國際AI峰會上,副總統JD Vance警告說,「過度監管」可能會「扼殺一個變革性的產業」。與此同時,政治壓力也發生了轉變。皮尤(Pew)的一項調查發現,50%的共和黨人和51%的民主黨人對AI在日常生活中日益普及感到擔憂多於興奮。白宮內部也發生了人事變動:曾主導放鬆管制議程的AI沙皇David Sacks於三月離職。幕僚長Susie Wiles和財政部長Scott Bessent此後接管了AI議程,據《泰晤士報》報導,他們已向政府外部人士表示,他們計畫在制定政策方面發揮更大的作用。
標籤
AI監管白宮AnthropicAI安全政策轉向Mythos模型
以上為 AI 自動翻譯導讀。原文版權歸 The Decoder 所有。 建議透過上方「閱讀原文」前往原始網站,以取得最完整資訊與支持原作者。