加州州長Gavin Newsom（民主黨）於週五發布一項新的行政命令，旨在讓加州在人工智慧（AI）監管方面取得領先地位，其中包括考慮強制為尖端AI模型設置「終止開關」（kill switch）。

紐森的命令指示州政府召集一個專家小組，在兩個月內就如何加強州法律中的AI安全措施提出建議。紐森希望該小組考慮州政府如何要求AI公司在現場嵌入獨立驗證團隊進行定期審計，使其透明度報告和風險評估符合獨立審計師的標準，建立一個定期驗證其有效性的「終止開關」，並確保公司必須將「失控事件」（loss-of-control incidents），例如OpenAI對Hugging Face的攻擊，報告為關鍵安全事件。

該命令還指示一個州機構加速實施他最近簽署的兩項法律，這些法律旨在建立一個獨立驗證機構評估AI安全的框架，以及一個州級的AI審計師註冊系統。

在前Anthropic研究員Jacob Coxon發文警告AI在十年內「可能殺死所有人類」的機率超過10%之後，國會掀起了一波法案討論。然而，鑑於眾議院休會至11月，以及即將到來的中期選舉使得參議院重大立法進展同樣不太可能，華盛頓通過實質性法案的希望渺茫。與此同時，前總統Donald Trump則堅稱：「AI唯一需要的控制或『護欄』是一位強大且聰明（高智商！）的總統，而美國正擁有這樣的人！」

紐森的這項行政命令可能不是加州在AI議題上的最後一次表態。週三，他在接受Politico採訪時，除了潛在的行政行動外，還提出了召集加州立法者舉行AI特別立法會議的可能性。他明確將這項命令定位為聯邦行動的典範，呼籲國會和Trump「審查並採納該州的框架，或將其全國領先的法規作為最低標準而非最高標準，以造福所有美國人的利益和安全。」

紐森在一份聲明中表示：「聯邦政府在建立任何形式有意義的AI監管或問責制方面的徹底失敗，應該讓每個美國人感到震驚，特別是當AI執行長們自己都在懇求監管時。」他補充說：「我們不會坐等，我們將加速在為時已晚之前，推動實質且負責任的AI監管工作。我們將深思熟慮但以緊急的速度進行，因為事關重大，不容等待或拖延。」