今天在 Decoder 節目中，我們將播出關於商業未來兩部曲的第一集，我將與 Jonathan Kanter 對談，他曾是拜登政府時期美國司法部的反壟斷主管。目前，他同時擔任華盛頓大學法學院和卡內基美隆大學技術政策的教授。
目前科技界最大的新聞是關於 AI 安全與監管不斷升溫的辯論。包括 Anthropic 和 Google DeepMind 在內的大型 AI 實驗室研究人員紛紛高調離職，聲稱 AI 模型構成真實威脅，且業界並未認真對待安全問題。其他研究人員甚至表示，AI 導致人類滅絕的可能性超過 10%。
所有這些公司的執行長都發出了各種呼籲，要求放慢開發速度並制定監管措施，包括要求反壟斷豁免，以便他們能夠在安全問題上進行協調。這當中包含許多想法，我特別好奇反壟斷的部分，這導致了這些公司被指控尋求監管套利、試圖組成卡特爾，甚至在首次公開募股（IPO）前設法擺脫投資者的壓力。
為了釐清這一切，我邀請了 Jonathan Kanter。Jonathan 在擔任反壟斷主管期間，曾對 Google、Apple 和 Ticketmaster 提起重大的反壟斷訴訟，並與 Lina Khan 一起，徹底重塑了美國的反壟斷政策。
正如您將聽到的，他贏得了針對 Google 和 Ticketmaster 的案件，而針對 Apple 的案件在川普政府的司法部中仍持續進行，這讓許多人感到驚訝。
這次政策重塑也導致了 AI 辯論中一些令人驚訝的聯盟——堅定的自由主義者、前川普政府的 AI 沙皇 David Sacks 曾贊同地轉發 Lina Khan 的推文，表示不需要反壟斷豁免。這一切都非常複雜，您將聽到 Jonathan 和我深入探討這些監管措施可能如何運作，以及它們如何與反壟斷法、競爭政策以及我們與中國的關係相互作用。
Jonathan Kanter，您是拜登政府時期司法部反壟斷部門的前主管，目前是華盛頓大學的法學教授和卡內基美隆大學的技術政策教授。歡迎您再次回到 Decoder。
現在您是個公民了，不必給我政治人物的回答。我現在可以隨心所欲地說話，感覺非常自由。我對此感到非常興奮。我對美國目前 AI 監管的狀況有數百萬個問題。關於我們應該或不應該如何監管這些公司，有許多不同的想法。
川普政府的立場似乎是「不監管」，這很有趣。你很少看到聯邦政府像川普政府那樣拒絕參與。然後，在所有這些討論中，都存在著令人難以置信的反壟斷擔憂。這些公司是否正試圖組成卡特爾？他們是否意識到他們的 IPO 可能不會如預期般順利，因此正在以某種方式尋求監管套利？他們是否試圖阻止來自開源中國模型的廉價競爭？
請您談談目前的情況，然後我想和您深入探討具體細節。目前世界的情況就像我們發明了汽車和卡車，但路上沒有劃線、沒有紅綠燈、沒有停車標誌，也沒有速限。我們發明了這項極其強大的技術，它正在改變我們的生活方式、經營業務的方式、社交方式，以及我們尋求、生成和消費資訊的方式。我們需要一些基本的道路規則。
我從兩個方面來思考這個問題：公司應該做什麼？政府應該做什麼？兩者都有責任。我很樂意深入探討這兩點。
讓我們從「要求監管必然會形成卡特爾」這個概念開始。所有頂尖的「前沿 AI」公司——OpenAI、Anthropic、Google DeepMind，甚至 Elon Musk——彼此之間不一定喜歡對方。這些人彼此之間不一定喜歡。他們卻異口同聲地表示應該放慢速度。Anthropic 的 Dario Amodei 使用的詞是「調整前沿的步調」。
我對此的解讀是，他們只是不信任彼此，他們正處於囚徒困境中，需要外部力量，最可能是政府，來對他們實施某種他們必須同意的政策框架。這對基本情況的解讀是否公平？
有點像。讓我從最寬容到最憤世嫉俗的角度來解釋，但無論哪種情況，總之，都不應該導致任何形式的反壟斷豁免。
最寬容的解釋是，他們害怕創新的速度，而缺乏監管意味著他們看不到任何道路標線。他們不知道該往哪裡開，擔心會衝出道路或撞到別人。他們懇求政府介入並採取行動。這可能有一點道理。我相信他們認為這可能會毀滅人類。我不確定這種末日情景是否準確，但我相信他們確實這麼認為。這是比較寬容的版本。
更憤世嫉俗的版本是，他們花費了太多錢，資金正在大量流失，無法繼續維持下去。但如果他們退縮，將會影響他們 IPO 的估值。因此，他們希望有人允許他們停止花費這麼多錢，減緩創新的速度，這樣他們就不必那麼努力地競爭，可以在上市前釐清他們的經濟狀況。
在這種情況下，所有頂尖參與者之間的協議是否會自動形成卡特爾？從這種憤世嫉俗的解釋來看，有很多人說：「你們只是想要監管套利。你們想組成卡特爾。你們想阻止競爭。」
這種安排當然存在這種風險。讓我們來看看什麼是必要的，什麼不是。
讓我非常清楚地說明，這些公司不需要協調就能向社會提供安全可靠的產品。試想一下：想像一下 Boeing 和 Airbus。Boeing 擔心飛機艙門脫落。這不是 Airbus 的錯，他們也不需要與 Airbus 協調放慢創新速度來防止艙門脫落。
他們需要弄清楚如何製造更安全的飛機。如果你製造的汽車在行駛時會爆炸，那不是其他汽車公司的錯，你不需要聚在一起解決這些問題。你需要弄清楚你的製造過程出了什麼問題。
如果你創造的產品產生了 AI 代理，這些代理侵入了他人的技術並進行駭客攻擊，在我看來，這與讓員工去做這件事沒有什麼不同。你有責任製造安全可靠的產品，當你的代理，無論這些代理是數位和二進位的，還是 AI，還是人類，如果它們開始做壞事，僱用它們的公司可以而且應該承擔責任。這些是基本的道路規則。
在安全和保障方面，確實存在合法的合作領域。例如，建立一個資訊交換中心，用於適當地分享威脅、惡意機器人或其他可以建立儲存庫的資訊，以便每個人都能製造更安全的產品。這些是其他行業中也會發生的合作類型，你不需要反壟斷豁免，因為反壟斷法並不禁止這類工作。如果兩家公司說：「我們競爭太激烈了，需要放慢速度」，是的，這可能會觸犯反壟斷法，但這不是我們應該在這裡做的事情。
我們應該創新，但公司有責任製造安全可靠的產品，政府則有責任制定規則，說明：「如果你沒有製造安全可靠的產品，後果會是什麼。如果你沒有製造安全可靠的產品，責任可能會是什麼樣子。如果你沒有製造安全可靠的產品，那麼你的代理或許應該被關進『機器人監獄』並下架。」
我想深入探討「機器人監獄」這個概念，以及我們對產品責任法施加的壓力。這裡面有些東西我想更具體地談談，但我妻子是律師。我今天早上告訴她我要和你談話，我試圖解釋這裡存在斷層，她只是看了我一眼說：「這簡直是惡夢般的法學院假設題。」你所描述的是：「侵權法是否為這些公司創建了一個監管框架？」
其中某處是：「如果我的代理去攻擊你，我的指令是 Anthropic 有錯。我們是否會創建某種轉嫁責任？這種情況已經發生了嗎？我們需要另一項法律或澄清法律嗎？」你對此有何看法？如果我指示我的 Meta Muse 代理去攻擊你，而它這樣做了，這是 Meta 的錯嗎？
兩者皆是。公司僱用員工並開發技術。當這些員工和技術做出有問題的事情，包括代表其雇主竊取或侵入他人的財產時，就會產生責任，這可能是產品責任，但也可能不僅限於產品責任。這只是人們在做壞事，或者公司正在創造做壞事的技術。產品責任框架最近在針對 Meta 的 Facebook 和 Instagram 兒童安全、保障和心理健康案件中確實發揮了作用。
等等，這對我來說非常有趣。這是我真正感興趣的話題，因為它花了十年才奏效。
這就是問題所在！這就是政府需要介入的地方。公司今天有義務製造安全可靠的產品，創新的速度不能成為不這樣做的藉口。讓我們非常清楚這一點。同時，我們發明了汽車、卡車和火車，但我們沒有平交道、沒有紅綠燈、沒有道路標線。國會幾乎完全無能為力。
儘管這些科技公司聲稱他們想要監管，但他們長期以來一直在積極遊說反對監管。整件事一團糟，這是我們系統混亂的症狀。坦白說，如果我作為政治學家，會將其追溯到選區劃分和「公民聯合」等問題，我們的程序已經失控，而國會本應履行其制定基本安全標準和責任的基本職責，卻沒有做到。
話雖如此，國會的不作為並不能成為提供危險產品的藉口。如果你相信你的產品會毀滅人類，那就不要製造它。如果你相信你的產品會侵入他人的東西，那就回到設計階段，弄清楚如何以更安全的方式製造它。
你猜怎麼著？這就是創新。這些是創新問題，而不僅僅是監管問題。我們需要更好地激勵我們的公司製造更安全可靠的產品。當他們這樣做時，這些產品將表現得更好，我們將看到更好的創新。目前，創新是不對稱的，因為它沒有適當地考慮安全和保障，就像我們在社群媒體上看到的那樣。