AI 產業中一些最大的競爭對手們，罕見地放下彼此的諸多分歧，為了一個共同目標而努力：讓惡意人士更難利用他們的技術開發生物武器。在一封致美國立法者的公開信中，這些科技領袖們正敦促國會制定法規，以彌補他們所稱的、可能引發全球大流行的驚人生物安全漏洞。
Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman 以及 Microsoft 的 Mustafa Suleyman 等人都是這封信的簽署者，他們敦促美國立法者要求銷售合成 DNA 和 RNA（這些基因材料可以在線上訂購並在實驗室中組裝）的公司，必須篩檢其採購訂單，以防範可能用於製造危險病原體的序列。
他們擔心，AI 工具可能使設計潛在危險序列變得更容易，並從製造商訂購，以過去需要更專業知識的方式加以利用。其他簽署者包括 Meta 的 AI 主管 Alexandr Wang 和 Google DeepMind 的 Demis Hassabis，後者因其在基於 AI 的蛋白質預測方面的工作而榮獲 2024 年諾貝爾化學獎。
這封信也由著名科學家、國家安全和政策專家，以及包括 Twist Bioscience 和 Ansa Biotechnologies 等生技公司的高階主管簽署，這兩家公司都是合成基因材料的主要供應商。據報導，這封信是由兩個智庫組織的：美國創新基金會（Foundation for American Innovation）和進步研究所（Institute for Progress）。
科學家們長期以來一直警告，合成生物學的進步可能使科學家更容易改造危險生物體，甚至復活早已滅絕的病原體——如果被濫用、處理不當或意外釋放，這些工作可能造成毀滅性的後果。然而，這種能力在很大程度上仍掌握在擁有精密實驗室、設備和資源的熟練科學家手中。
現在的擔憂是，隨著生物工具變得更便宜、更容易取得，以及 AI 模型變得更強大，防止濫用的障礙正開始瓦解。專家們也警告，AI 可能有助於製造其他威脅，例如化學武器。信中指出，儘管許多最大的合成 DNA 和 RNA 供應商已經在篩檢訂單，但這是在自願而非強制性的基礎上進行的。
信中還說，應對所有訂單保留詳細記錄，以便追蹤任何規避初步篩檢的威脅。信中寫道：「鑑於底層技術變化的速度，我們認為這項需求迫在眉睫。這是利益相關者之間罕見的共識時刻，他們通常意見相左。我們希望政策制定者能以果斷的行動來回應。」