上週我在家鄉紐澤西休假，但回到矽谷後，發現大家又開始對人工智慧的快速進展感到恐慌。這當然不是我第一次看到這種擔憂，但卻是近年來最嚴重的一次焦慮。

本週稍早，OpenAI、Anthropic 及其他 AI 實驗室的逾千名員工簽署了一份請願書，主張美國應設法「調整」AI 競賽的步調。這是一種委婉的說法，意指業界應有權協調暫停 AI 開發，或在情況失控時放緩進度。OpenAI 和 Anthropic 本身最終也支持了這封信。

這份請願書發布前一週，OpenAI 剛揭露了一起前所未有的網路安全事件。在內部測試期間，其一個 AI 代理程式駭入了 Hugging Face 平台及其他多項服務。

大約在同一時間，川普政府的高級官員開始對一款令人印象深刻的中國開源 AI 模型 Kimi K3 感到恐慌，據稱該模型是從 Anthropic 的 Fable 5 中提煉出來的。作為回應，除了 Anthropic 之外的大多數科技業界都簽署了 Nvidia 的公開信，呼籲美國政府保護開源 AI 模型，認為它們是閉源模型的必要制衡力量。

這些事件可能看起來像是一連串互不相關的混亂。但我認為它們證明了矽谷正在形成一種更宏觀的世界觀，許多科技業內人士越來越擔心 OpenAI 和 Anthropic 的主導地位。我最近與研究人員和投資者交談時，他們都將 AI 產業描述為一場似乎沒有放緩跡象的雙雄競賽，這令人擔憂。

然而，不同的群體有各自擔憂的原因。一些 OpenAI 和 Anthropic 的員工認為，他們的雇主在追求市場主導地位的過程中行為魯莽，而且 AI 產業可能很快就會開發出超越現有安全方法所能控制的模型。他們在本週「調整前沿步調」請願書的公開聲明中也表達了這一點。

Anthropic 的研究產品經理 Jeremy Hadfield 在請願書附帶的聲明中表示：「我看到了 AI 發展的無情速度，讓社會難以跟上，也讓實驗室在安全方面偷工減料。」

對於一些 AI 員工來說，Hugging Face 事件是一記警鐘，顯示 OpenAI 在減輕其最先進 AI 技術風險方面的努力已然不足。誠然，該事件發生時，OpenAI 正在測試一個 AI 模型尋找軟體漏洞的能力，且公司刻意關閉了旨在限制其網路安全能力的防護措施。

OpenAI 在事後報告中表示，這些測試是在沙盒環境中進行的，但該模型最終還是取得了開放網路的存取權。一些專家此前曾告訴 WIRED，OpenAI 的安全措施應該更為嚴謹。

矽谷的其他群體則更擔心權力而非安全。創投家、科技主管和新創公司創辦人擔心 OpenAI 和 Anthropic 將成為下一代的 Apple 和 Google，迫使其他科技產業遵循他們的規則。雖然聲稱幾乎沒有利潤的私人新創公司正在扮演壟斷者的角色有些奇怪，但許多人——包括 Mark Zuckerberg——正開始以這種視角看待這兩大 AI 實驗室。

Meta 執行長本週在《華爾街日報》發表了一篇專欄文章，警告 AI 產業權力集中化的危險，並表示超級智慧應該廣泛分佈。Zuckerberg 的說法可謂自相矛盾——Meta 最近決定停止開源其最優秀的 AI 模型，轉而像 OpenAI 和 Anthropic 一樣，透過付費 API 和訂閱服務提供。

這位 Meta 執行長可能試圖向監管機構和業界傳達一個特定訊息。我認為，言下之意他基本上是在說：「我們必須確保 OpenAI 和 Anthropic 不會獨佔 AI。」Zuckerberg 絕非第一個提出這種擔憂的科技領袖。

我不相信這些專欄文章和請願書能有效阻止 OpenAI 和 Anthropic 的迅速崛起。經濟的很大一部分都指望這兩家 AI 巨頭能成功上市，我不確定是否有人——更不用說川普政府——有興趣搞砸這一切。然而，科技產業對閉源 AI 的發展速度越來越感到不安，這種情況短期內不太可能改變。

為何 AI 視訊新創公司正進軍機器人領域

儘管如此，我仍然不會忽視開源模型正在變得多麼出色。德國新創公司 Black Forest Labs，以發布世界上最受歡迎的一些開源 AI 圖像和視訊生成器聞名，上週宣布將發布一個也能驅動機器人的新模型。該新創公司目標在未來幾週內推出 Flux 3 的開源版本，開發者可以用它來生成圖像、視訊和音訊，並預測機器人動作。

Black Forest Labs 執行長 Robin Rombach 本週稍早接受我的採訪時表示：「我們顯然正從一個純粹的圖像生成實驗室，轉變為一個前沿的多模態 AI 實驗室，這對我來說非常重要。我們正在展示研究團隊一直以來的直覺，那就是這些模型非常通用，並且能對現實世界產生紮實的理解。」

Black Forest Labs 是最新一家將其 AI 視訊模型應用於實體世界的新創公司。今年稍早，OpenAI 完全擱置了其 AI 視訊生成產品 Sora，並將其背後的團隊併入公司神秘的機器人部門。近年來，其他 AI 視訊新創公司，如 Runway，也積極推動機器人技術的發展。

這些公司普遍認為，AI 視訊模型能夠發展出對現實世界物理的理解。雖然這是該技術一個引人入勝的應用，但它也可能代表著公司從開發成本高昂的模型中獲取收入的一種方式。

目前大多數機器人基礎模型都是視覺-語言-動作模型，其中 Google 的 Gemini Robotics 最為知名，它們結合視訊輸入和書面指令，然後輸出馬達指令。Rombach 表示，Flux 3 完全跳過了語言層，直接將視訊轉換為動作，他認為這種方法更為穩健。

Black Forest Labs 正與另一家新創公司 Mimic 合作，開發 Flux 3 的客製化版本，用於驅動 Audi 工廠的汽車製造機器人。Mimic 的產品長 Stephan Gravert 表示，他們目前正在與 Audi 測試和部署 Flux-mimic AI 模型。

他的團隊發現，該模型特別擅長驅動機器人手臂將柔性零件——例如車窗密封條和電纜——安裝到汽車上。Gravert 表示，Mimic 計劃在今年年底前與 Audi 全面推廣這項技術。

我不得不向 Rombach 詢問關於開源與閉源 AI 的爭論，特別是因為 Black Forest Labs 簽署了 Nvidia 的公開信，要求美國政府保護開源模型。Rombach 說：「在我看來，全面禁止開源模型將是愚蠢的。你將會遇到透明度、安全性、主權和創新速度方面的問題。我認為這將是一個非常短視的決定。」

Rombach 關心這個問題有充分的理由。Black Forest Labs 的共同創辦人長期以來都以小搏大，以遠少於資源的條件與 Meta、Google 和 OpenAI 等美國 AI 巨頭競爭。但這種情況可能無法無限期持續：Rombach 告訴我，該新創公司在訓練 Flux 3 時使用了前所未有的運算能力，目前員工人數已超過 100 人。

Black Forest Labs 去年以 3.25 億美元的估值籌集了 3 億美元，但我預感它很快就需要更多資金才能跟上。