從矽谷到華府，對於 AI 導致末日的擔憂正達到白熱化。其中一個關於失控 AI 將如何毀滅人類的主要理論，就是透過生物武器。今年夏天稍早，AI 公司的執行長們呼籲制定新法規來管制合成 DNA 的製造。

上個月，史丹佛大學和 Arc Institute 的研究人員展示了 AI 如何設計新的病毒基因組。上週，Anthropic 發布一份報告，指出有人試圖以「可能支持生物武器開發」的方式使用 Claude，這讓此一觀點更加盛行。該報告作者將生物濫用列為「尖端 AI 模型最嚴重的風險之一」。此後不久，執行長 Dario Amodei 便敦促政府協助 AI 實驗室「掌握前沿發展的速度」。

儘管對於 AI 創造致命瘟疫的警報四起，許多科學家表示，這在世界關注的風險清單中排名相當低。加州桑尼維爾基礎模型研究所的研究科學家 David Bellamy 認為，在生物武器製造方面，AI 並非一種根本性的新威脅。科學界數十年來一直在努力解決是否發表具有潛在危險的生物研究，這被稱為「兩用困境」。

Bellamy 表示，在大型語言模型出現之前，網路本身、開放取用的科學期刊以及 Google 翻譯等翻譯服務，就已經讓大眾更容易取得生物資訊，包括實驗室操作規程。「AI 本質上是一個工具，可以幫助像科學家這樣的好人，也能幫助威脅行為者更快地查閱資訊，並更快地定義和獲取這些操作規程，」他補充道。「但這些能力並非生物武器生產的真正瓶頸。」

他指出，真正的瓶頸在於組裝病毒或其他生物製劑的過程，以及所需的原材料、設備和知識。惡意行為者需要獲取必要的基因片段，從頭開始構建完整的基因組，然後驗證該病毒是否能感染人類、引起預期的疾病，並能在人與人之間傳播。機器人實驗室助理可以自動化一些任務並加快工作流程，但仍需要具備執行這些實驗的專業知識和資源。

生物科技新創公司 Ginkgo Bioworks 的執行長 Jason Kelly 認為，人工通用智慧（AGI）不太可能控制並散播現有的病原體，更不用說設計新的病原體並加以部署。Ginkgo Bioworks 專精於建立自主實驗室，最近還與 OpenAI 合作，讓其 GPT-5 模型運行一個實驗室。

他表示，「AI 無法接管實驗室」，部分原因是實驗室內的人類可以拒絕提供機器人任何它要求用於實際生產生物武器的物質和設備。他指出，所有這些作為制衡的人類意味著，如果 AGI 要部署機器來執行通常很精密的病毒學工作，就「必須到處都有更多的機器人」。

免疫學家 Derya Unutmaz 也表示，人類將能夠阻止 AGI 開發致命疾病的任何嘗試。他認為，即使邪惡的超級智慧設法釋放出一種超級病毒，科學家也能利用其他 AI 系統迅速開發出疫苗。

儘管如此，即使是那些不認為 AGI 會立即獨立地對人類發動生物武器攻擊的人，也擔心惡意行為者利用這項技術，以及未來可能發生的情況。科技智庫 Institute for Progress 的生物科技研究員 Olivia Scharfman 表示：「AI 今天不可能進入一個完全自主的實驗室並自主製造病毒，因為完全自主的實驗室尚不存在。」「但我確實認為 AI 可以付錢給某人來替它做這件事。」

她認為 AI 輔助的生物恐怖主義是一個迫在眉睫的威脅，並且有些團體可能虛無主義到足以這麼做，其中包括「超人類主義 AI 繼承者」，這些人信奉一種邊緣意識形態，希望用機器人取代人類。

其他專家則不那麼擔心 AI 生物武器，因為他們認為生物戰在方法論上沒有太大意義。遺傳生物學家兼計算生物學教授 Francois Belloux 告訴 WIRED，人們往往「高估病原體作為武器的價值」，並指出「風險往往有些被誤解」。

Belloux 表示，撇開 AGI 不談，對於有志於種族滅絕的人來說，生物武器根本不是一個特別有吸引力的選擇，特別是因為很難針對特定群體而倖免其他群體，而且大規模生產和分發病原體在物流上比方說發射炸彈要複雜得多。他說：「如果你想殺人，有比試圖改造某種病毒或細菌然後釋放它好得多的方法來殺人。」無論你是史上最複雜的人工智慧，還是只是一個普通人。

Scharfman 指出，隨著 AI 將生物武器的威脅帶入焦點，現在是推動針對所有生物威脅（包括 H1N1 等現有病原體）提供更好保護的正確時機。這可能包括通過立法來加強 DNA 合成技術的安全協議等高層次行動，但她也主張進行改變以減輕所有病毒的風險，例如升級建築物中的空氣淨化系統。

政策智庫 Rand Corporation 的 AI 與生物部門主管 Steph Guerra 表示，AI 是否確實增加了生物武器開發的風險，這是一個難以回答的問題。她說：「AI 已被證明非常擅長整合資訊，並激勵人們做善事和壞事。」

Guerra 表示，即使風險很低，社會仍有辦法防範潛在的濫用。其中之一是政府可以通過法律，要求銷售合成 DNA 和 RNA 的公司篩選客戶和訂單，以防止基因材料被濫用。許多公司已經使用軟體來篩選所謂的「關注序列」訂單，但這種做法並非普遍或強制性的。

不過，在惡意行為者達到那個地步之前，大多數人都同意模型應該有適當的防護措施，以免向人們提供可操作的危險資訊。

Guerra 表示，AI 開發的生物威脅風險也可以透過加強全球監測系統來減輕，以便盡早發現新疾病的爆發並將傳播中的病原體提供給研究人員。她說，AI 公司、基因合成供應商和政府之間的數據共享協議也有助於防止濫用。

她說：「幾乎任何生物安全控制措施，都將會有被規避的方法。」「這就是為什麼我們需要分層的方法，在從惡意行為者的構思到意圖，一直到生物武器釋放的整個路徑上提供摩擦力。」

Unutmaz 表示，還有一個更緊迫的擔憂：所有關於 AI 末日的討論正在分散人們對尖端系統如何協助人類進行疫苗開發和其他醫學突破的注意力。他說：「我們真的需要專注於其積極的一面。」