Anthropic 執行長 Dario Amodei 週二警告，人工智慧已為全球科技公司、政府和銀行創造了一個狹窄的窗口，必須修補其公司最新模型發現的數萬個軟體漏洞。 該 AI 模型 Mythos 上個月首次亮相，同時揭露它已挖掘出關鍵軟體中存在數十年之久的漏洞。 Amodei 表示，由於地緣政治對手中國的 AI 模型「可能落後 Anthropic 產品六到十二個月」，因此大約有「這段時間」來修復這些問題。 這些評論是在 Anthropic 的一場活動中發表，Amodei 與 JPMorgan Chase 執行長 Jamie Dimon 同台，並發表了一套旨在自動化金融工作的全新代理程式。 Amodei 說：「危險在於漏洞數量、資料外洩數量以及勒索軟體對學校、醫院，更不用說銀行造成的財務損失，都將大幅增加。」 Anthropic 已將 Mythos 限制給少數合作夥伴公司使用，因為擔心犯罪分子或敵對國家可能利用它。該公司過去幾次模型更新已在市場上引起迴響，但 Mythos 卻引起了企業和政策制定者最大的擔憂。 Amodei 表示，隨著每一代 Claude 的推出，潛在網路攻擊的規模都急劇膨脹。早期的一個 Anthropic 模型在 Firefox 瀏覽器中發現了大約 20 個漏洞。Mythos 則發現了近 300 個，而所有軟體的總數現在已達到數萬個。 Amodei 說，Mythos 發現的大部分漏洞尚未公開披露，因為它們仍未修補，一旦被識別，「壞人就會利用它們」。 儘管發出警報，Amodei 和 Dimon 也表達了有條件的樂觀。 Amodei 說：「這是一個危險時刻，如果我們能正確應對，我認為我們已經開始採取第一步，那麼我們就能迎向一個更好的世界。畢竟，能找到的錯誤是有限的。」 Dimon 也表示，儘管網路安全擔憂是合理的，但 AI 帶來的網路安全風險是一個「過渡時期」。 關於監管問題，Amodei 表示，AI 監管應類似於汽車產業的做法，在消費者安全與允許產業競爭之間取得平衡。 他說：「你不能在沒有『這東西有煞車嗎？』的情況下就創立一家汽車公司。我們需要...