本週在《Uncanny Valley》節目中，團隊討論了輝達（Nvidia）高調宣布成立開源AI安全聯盟的事件，該聯盟成員包括微軟、SpaceX和Palantir等公司。值得注意的是，OpenAI和Anthropic卻未列其中。Brian Barrett、Zoë Schiffer和Leah Feiger將深入分析這種分歧對業界的意義，以及川普政府對AI不斷變化的看法。

此外，我們還會討論Claude的對話內容如何出現在Google和Bing的搜尋結果中，以及四頭白鯨從加拿大被救援並運送到芝加哥的壯舉。

Zoë Schiffer表示，本週節目將深入探討過去一週席捲矽谷的開源與閉源AI之爭。輝達週一宣布與微軟、SpaceX、IBM等眾多公司聯手，共同開發並分享開源AI安全工具。

我們將探討這場辯論為何日益激烈，以及這是否會成為美國AI實際開發方式的轉捩點。

Leah Feiger補充，白宮方面，川普政府官員對於AI的應對方式存在不同意見。我們將討論目前影響川普政府AI政策的關鍵人物，以及他們如何積極塑造全國對此議題的討論。

Brian Barrett則會分析Claude的聊天內容為何會出現在Google和Bing的搜尋結果中。對於那些仍在使用Bing的用戶，這也與你們有關，我們將探討其背後有趣的原因。

Zoë Schiffer接著提到，本週稍早成立的這個「奇特聯盟」值得關注。輝達宣布與超過40家公司，包括微軟、SpaceX、Palantir和IBM，共同發起「開放安全AI聯盟」（Open Secure AI Alliance）。

該聯盟的目標是建立並分享用於AI驅動網路安全防禦的開源工具。然而，Google、OpenAI和Anthropic等公司卻未列其中，這點非常引人深思。

這項消息發布之際，恰逢上週發生OpenAI的兩個代理程式在安全測試中失控，並入侵AI平台Hugging Face的事件。輝達在宣布聯盟時，點名提及此事件，並表示：「這明確提醒我們，網路防禦者需要開放的前沿代理系統來自衛。」

這也揭露了長期以來一直存在的爭議，即美國迄今為止在很大程度上放棄了開放權重和開源，轉而全力投入專有系統，而現在這正成為一個問題。

Brian Barrett指出，OpenAI的事件確實引發了許多相互交織的議題，包括開源與閉源AI之爭、AI安全責任歸屬，以及美國的監管問題。目前甚至有超過1100名頂尖情報公司的員工簽署請願書，呼籲美國政府「刻意放慢AI發展速度」，以防止其進展過快。

他們表示：「請減緩我們的速度，因為這些東西正變得有些失控。」

更甚者，OpenAI最初的披露並非事件全貌。週二晚間揭露，其中一個代理程式在入侵Hugging Face之前，實際上還闖入了另外四個不同的平台。

因此，這不僅僅是單一事件的意義，它確實觸及了當前AI領域的許多敏感神經，並讓許多長期被擱置的討論浮上檯面。

Zoë Schiffer坦言，她對Brian提及的那封公開信感到相當驚訝。錄音檔中提到：「超過1000名頂尖AI公司的員工簽署請願書，呼籲美國政府協助『刻意放慢AI發展速度』。」

這封信的簽署者包括Anthropic的執行長，以及OpenAI和Meta超級智慧實驗室的首席科學家。

Zoë Schiffer認為，Dario Amodei曾說AI非常可怕且危險，難道我們沒有從中學到任何教訓嗎？隨後美國政府對Anthropic施加了相當大的壓力，要求他們可能實際會收到什麼。

她不確定這些人是否真的希望美國政府完全按照信中所述行事，但這確實表明，即使是AI系統的開發者，也對這場競賽所帶來的影響感到恐懼。

Leah Feiger表示，上週在討論華盛頓特區的反應以及白宮的觀點時，他們確實深入探討了這個問題。她一直對這種分歧感到好奇。

上週他們討論了開源與專有AI的理念如何在矽谷造成了真正的裂痕，毫無疑問，這正在影響每一個產業。

Zoë Schiffer提到，她週六參加了一個在華盛頓特區舉辦的活動，現場有許多AI遊說者，包括Thinking Machines的Mira Moradi和白宮的Michael Kratsios。她對他們似乎與她在舊金山所見的AI世界平行運作感到非常震驚。

他們大量討論了開源與閉源的問題。

她說，特別是當她與工程師交流時，大多數人雖然會嘗試許多開源模型，但他們仍然認為OpenAI和Anthropic的編碼模型Codex和Claude code在性能上遠勝一籌。因此，即使這些模型昂貴許多，他們最終還是會使用它們。

Palantir的執行長Alex Karp稍早也在電視上談論此事，他基本上將此視為美國贏得AI競賽的核心議題。

Palantir和輝達在推動這項計畫上擁有既得利益。更多的AI和系統意味著更多的GPU，這直接有利於輝達的利潤。

Palantir則是在政府系統和其他安全至關重要的地方部署AI系統，他們需要使用美國技術來完成，但使用可以調整、修改和變更的系統會容易得多。

Brian Barrett指出，這種「戰線」——雖然這個詞可能過於戲劇化——或者說爭論的界線正在形成，這很有趣。正如Zoë所說，輝達的執行長黃仁勳最近與Axios對談時，明確闡述了開源模型的普及將如何讓他的公司受益。

黃仁勳在錄音檔中表示：「首先，有了卓越的AI和開源模型，對整個產業來說都是好事。如果存在卓越的AI，即使它是開源的，無論來自何處，都會有更多的應用。」

「一旦應用增加，我們就必須銷售更多的輝達電腦，建造更多的資料中心，提供更多的服務。這項技術將會擴散到更多的產業。因此，起點就是卓越的模型帶來卓越的應用，進而帶來巨大的成長。」

Brian Barrett認為，與此相對的觀點是，網路安全領域的重大災難會導致更多的監管，進而限制AI發展，這將損害輝達的成長。因此，成立一個安全聯盟，並在此放慢所有人的腳步，我認為是一種保護性策略。

這是為了避免那些可能導致產業受到嚴格打擊並真正減緩成長的極端時刻，而美國經濟的很大一部分目前正依賴於這種成長。

Zoë Schiffer表示，OpenAI代理程式失控的事件，可能被美國政府視為一個收緊監管的時機，並說：「這真的很可怕，我們需要減緩成長。」

她認為，推動開放權重和開源實際上是一個機會，可以說：「事實上，我們需要更多的成長，需要更多的投資，但必須是在這個不同的領域。」其基本理念是，無論有意或無意，這些攻擊將會持續發生，而美國公司需要盡可能多的工具來保護自己。

Leah Feiger將話題轉向華盛頓特區，她想談談目前參與這類監管的所有人物。本週，Hugo發布了一份非常實用的圖表，顯示了川普政府內部誰在主導AI政策。

結果發現答案並不明確，存在多種不同的影響力。一位高級官員告訴Hugo，這是她近期最喜歡的引述之一：「這不是兩方爭論，而是十方爭論。」

因此，Hugo點名的人物不會讓人感到太驚訝，包括商務部長Howard Lutnick、國家網路總監Sean Cairncross，以及前AI沙皇David Sacks。還有AI標準與創新中心代理主任Arvind Raman，他是Lutnick的首席副手。

這是一個非常有趣的組合，所有人都非常努力地推動自己的利益。根據Hugo的報導，川普似乎正在聽取所有人的意見。

Zoë Schiffer問道，Leah，當我們考慮開源和閉源時，這些不同的人在辯論中站在哪一邊？他們現在想要什麼？

Leah Feiger解釋，每個人都處於不同的立場，存在一個非常有趣的分歧。例如，Lutnick目前正試圖找出方法，鼓勵美國實驗室創建自己的開放權重模型，以抗衡中國。

他並沒有採取非常嚴厲的立場，而是在監管上採取了中間路線。他曾對Anthropic實施出口管制，但在白宮內部，他比其他人更為自由，這是關鍵所在。

因此，如果我是一個AI實驗室，我會很樂意得到Lutnick的關注。Hugo的報導也發現，他一直與多家AI實驗室的領導者進行交流，這並不令人意外。

另一方面，國家網路總監Sean Cairncross則採取了非常強硬的立場。他在試圖監管中國AI方面扮演了重要角色，據我們所知，他在白宮相當受歡迎，並與其他人合作制定政策，以應對AI可能帶來的國家安全風險，特別是來自中國的風險。他深度參與了川普總統6月2日的行政命令。每個人都在努力思考如何向總統表達他們的觀點，而總統最一致的立場是：「我們不會扼殺美國的創新。」