在近期備受矚目的駭客攻擊事件引發人們對AI可能「毀滅人類」的擔憂之前，我們的能源系統就已經令人不安地容易受到網路攻擊，而且風險還在不斷增長。安全與技術研究所（IST）公共安全與韌性駐所執行長 Joshua Corman 去年告訴我：「我們一直都是獵物，只是在捕食者的胃口下勉強生存。」當時，我正忙於處理國土安全部關於伊朗行動者及其同情者可能對美國發動網路攻擊的警告。

上週，我打電話給 Corman 聊了聊最近失控AI代理人策劃複雜網路攻擊的事件。甚至連AI高層都在討論他們正在開發的技術是否會失控到引發末日。如果像一些AI開發者警告的那樣，人工智慧有一天會殺死所有人類的機率為10%，那麼它在此期間讓我們停電的機率肯定也存在。

然而，當我與 Corman 和其他網路安全專家交談時，他們仍然更擔心生成式AI落入惡意行為者手中，而不是失控的AI代理人。隨著科技公司競相開發更強大的AI模型，公用事業也必須加強防禦——無論攻擊是由誰或什麼發起的。

Corman 告訴我：「任何想要發動攻擊的反社會者現在都比以前更強大了。這一直是一個力量倍增器，而且還在持續增長。」我們許多關鍵的能源基礎設施——維持家中電力、冰箱食物保鮮以及醫院救生設備運作——從未被設計成連接到網際網路。發電廠的壽命通常長達數十年，美國核反應爐的平均年齡約為44年。它們在建造時並未考慮到當今的網路安全風險，這使得它們成為駭客的輕易目標。

最終，這些基礎設施中的大部分確實連接到了網際網路。從那以後，修復由此產生的網路安全漏洞一直很困難。一些最初設計電力部門仍在使用的設備的公司已經倒閉，沒有人留下為這些「孤兒」設備開發軟體修補程式。即使有可用的修補程式，及時應用也是另一個挑戰。

與IT軟體升級不同，控制關鍵基礎設施實體機械的營運技術（OT）系統可能只設計為每季度或每年更新一次。小型公用事業也可能缺乏資源、人員和專業知識來使用最新的防禦措施。

民主防衛基金會網路與技術創新中心研究員 Sophie McDowall 表示：「AI帶來的真正不同之處在於，它讓敵人行動更快——但對於防禦基礎設施的人來說，要跟上這個速度非常具有挑戰性。」

評估生成式AI帶來的風險時，意圖是一個關鍵因素。當一個OpenAI模型設法突破公司訓練參數，攻擊AI實驗室Hugging Face時，美國公共電力協會（代表2,000個市鎮的社區自有公用事業）網路安全計畫資深經理 Rob Denaburg 表示：「我們在其中看到的一些複雜性、能力以及所見所聞確實令人大開眼界，從某種意義上說，它們的有效性令人恐懼。」

但 Denaburg 指出，即使在 Hugging Face 駭客事件和類似的AI代理人闖入它們不應鎖定的系統的案例中，這些失控代理人仍然專注於實現其訓練目標。如果有人訓練一個模型來對能源基礎設施發動攻擊，並且代理人在那種情況下突破了沙盒，那對公用事業來說可能會是一個更大的問題。同樣，這涉及具有惡意意圖的人類敵人。

從歷史上看，敵對國家通常被認為是對關鍵基礎設施最大的網路安全威脅。Corman 說：「他們會更有紀律」，並且更有能力進行複雜的網路攻擊。現在，AI讓技能較低的敵人更容易發動有效的攻擊。

Corman 說：「一個惡意行為者可以使用這些工具，比他們自然狀態下更能有效地攻擊他們通常不知道如何攻擊的事物……因為他們可能不了解OT協議、OT網路和OT策略，但LLM已經閱讀了手冊，並且確實知道該怎麼做。」

公用事業必須做好更充分的準備，無論壞人是誰，防禦策略都是相似的。Denaburg 說：「無論有沒有AI，歸根結底，它仍然是一次網路攻擊。儘管AI可以幫助敵人將漏洞串聯起來，並自動化從初始存取到利用的某些過程……但只要你能在某個地方阻止他們，他們就無法發動攻擊。」

電力公司可以遵循一系列最佳實踐來保護關鍵基礎設施。其中一些是非網路解決方案，例如確保系統在需要時可以切換到手動操作，或者在某些情況下減少這些基礎設施最初的互聯程度。Corman 說，面對AI的挑戰，他們越來越意識到「如果我們無法保護它，就斷開它」。

McDowall 表示，政府和開發先進AI模型的公司也負有責任。她指出，OpenAI執行長 Sam Altman 最近與公用事業公司會面討論電網安全問題，這是積極的一步。但她說，他們可以做更多來防止災難發生。McDowall 告訴 The Verge：「他們正在為一個他們部分造成的問題提供支持」，同時未能充分控制自己的技術進步。

儘管核技術和危險材料的研發有監管護欄，但AI目前還沒有相同的政策保障。McDowall 說：「這是一項可能對關鍵基礎設施系統造成潛在風險，可能對人類生命造成潛在威脅的技術科學發展。因此確實需要限制。」

她補充道：「我承認我們也不想限制發展，但沒有理由我們不能在負責任的同時推動研究向前發展。」她指出，目前缺乏關於AI如何用於改善能源系統網路安全的研究——特別是除了紅隊測試以發現漏洞之外的應用。

本月初，OpenAI 承諾投入10億美元，用於補貼培訓和提供新模型的存取權限，這些模型旨在幫助防禦關鍵基礎設施。OpenAI 在9月3日的聲明中表示：「未來幾個月，隨著全球模型能力不斷增強，由AI驅動的網路攻擊將變得更加普遍和複雜。前沿AI可以幫助防禦者更快行動。」

但 Corman 警告不要依賴友善的AI代理人來擊退惡意的代理人。在關鍵基礎設施的敏感OT環境中，兩者都可能難以控制。Corman 說：「在OT環境中引入太多變化太快也確實很危險。現在我們有了一頭AI公牛在OT瓷器店裡與另一頭AI公牛搏鬥。」