隨著中國開源權重 AI 模型的能力和普及度不斷提升，關於如何應對這些模型的爭論再次白熱化。
有傳言指出，川普政府可能會試圖禁止這些模型（儘管尚未採取行動）。同時，專有模型開發商，特別是 OpenAI 和 Anthropic，似乎對此日益擔憂。
諸如月之暗面（Moonshot AI）的 Kimi K3 或阿里巴巴的 Qwen 等開源權重模型，其推論成本遠低於美國大型實驗室的閉源模型。人們擔心這些模型也構成某種威脅。當然，它們確實威脅到大型專有 AI 實驗室的利潤。
但企業在自己的資料中心運行這些模型時，是否應該屈服於它們可能成為中國駭客攻擊媒介的恐懼呢？
Arcee 的技術長 Lucas Atkins 說，不。Arcee 正在開發開源模型，旨在為美國公司提供中國模型的本土替代方案。
如果任何新創公司會從禁止中國模型中受益，那肯定是 Arcee。但 Atkins 表示，中國的開源模型並不比公司可能使用的任何其他開源軟體更危險。事實上，他說，它們甚至為他自己的公司帶來好處。
他表示：「許多人認為這類似於中國軟體程式。好像它被編寫時就帶有某些意圖，惡意行為者可以輕易地操控。」
他解釋：「這些模型的訓練方式根本不是那樣。Arcee 或阿里巴巴確實沒有任何方法，在製作模型後，讓某人在自己的環境中運行它，而我們卻能對其進行任何存取。」
儘管這些模型大多被稱為「開源權重」模型，並非完全的開源軟體，但如果從 Hugging Face 等開源網站下載，其原始碼（實際在伺服器上運行的部分）同樣大部分是可見且可審查的。（無法取得的是用於訓練模型的方法和資料。）
大型組織應該讓任何模型核心通過其安全測試和檢查流程。他們也經常會針對特定用途對模型進行後續訓練，並可以檢查偏見、毒性、幻覺以及對某些主題的敏感性等領域。因此，在人們開始向模型發送提示詞之前，他們會先與模型合作、優化並理解它們。
用於編碼的模型是否會以某種方式將惡意後門植入其編寫的程式碼中？同樣，雖然這在理論上是可能的，但要實現它需要極其高超的技巧。
Atkins 每天都在訓練模型，他推測：「沒有理由說一個足夠老練的行為者無法訓練出一個在任何情況下都表現出色的編碼模型，但在遇到某種特定類型的程式碼庫時……一些隱藏的訓練就會啟動。」但他補充說：「我不知道該如何做到這一點。」
由於大型語言模型本質上具有創造性，因此在預先規劃好的情境和提示詞的完美結合下，讓當代模型吐出惡意軟體的可能性微乎其微。任何企業隨後使用該程式碼的可能性更是渺茫。
未來會發生嗎？這誰也說不準。但企業也在開發其 AI 應用程式，使其具備模型無關性，並能使用多個模型。因此，即使中國模型目前性價比最高，企業也不會永遠被鎖定使用它們。
Atkins 說：「我認為，對話不應該是關於如何禁止中國模型，而應該是關於我們如何在美國培育一個良好、開放的生態系統。」
Arcee 也從中國模型中獲得優勢。他說，由於它們是開源的，這家新創公司「受益於這些模型的優良性，因為我們可以學習它們的成果。我們可以在它們的基礎上進行開發。然後它們也可以學習我們所做的。」他補充：「我們對那些開發這些模型的人，那些個別研究人員，抱持著極大的敬意。」
Atkins 說，最終，與中國模型競爭的方式「是發布一個更好的模型」。他表示：「我們需要給他們一些值得討論的東西。」