Anthropic 執行長 Dario Amodei 近日發表一篇題為「我們必須放慢前沿發展速度」的長文,詳細闡述為何應減緩 AI 發展,引發各界對 AI 安全聲明的熱烈討論。其他 AI 領袖和政治人物也紛紛表態支持或反對其觀點,以下是我們整理的部分內容。
Amodei 在週六上午發表的文章中,提出了減緩 AI 發展的三個步驟:首先是設立嵌入式第三方評估機構,以驗證公司是否遵守安全規範和承諾並報告事件;其次是民主國家前沿 AI 公司之間應協調標準和限制;最後是民主政府與威權政府之間應在全球範圍內協調 AI 發展速度,「只要這在可能範圍內」。Amodei 表示,Anthropic 將「單方面承諾執行第一個步驟」。
不過,Amodei 也指出,放慢步調「並非意味著停止模型訓練或技術進步,而是確保公司有足夠時間調整並保護其模型,並讓第三方評估機構確認這點。」
OpenAI 執行長 Sam Altman 在 Amodei 於 X 平台發布其文章後不久表示:「我同意 Dario 的看法,我們需要放慢前沿發展的速度。」他補充說:「這一直是我們 OpenAI 近幾週討論的主要議題。」Altman 也承諾在公司內部設立獨立評估機構,稱其為「一個很棒的主意」。
週日,Altman 表示 OpenAI 樂見「一個聯邦框架,為前沿 AI 設定一致的安全要求」。他補充說,OpenAI 希望其他公司「能學習我們的做法並提出自己的方案;我們認為,針對錯位、監控和安全制定共同標準將帶來更好的結果。」與 Amodei 類似,Altman 也表示「當我們談論『放慢步調』時,並非指『停止』」,並指出進度應「比原先可能的速度更慢」。
Altman 還指出他認為 AI 進展「可能非常糟糕」的兩種情況:一是「將未來控制權拱手讓給 AI」,二是最終「陷入權力過度集中的世界」。他表示,這兩種情況都可以透過「走一條狹窄的中間道路」來避免。
Google DeepMind 共同創辦人兼董事長 Demis Hassabis 回應 Amodei 的文章時表示:「Dario 的文章指出了正確的前進方向。」他補充說:「細節需要進一步完善,但方向是正確的,以應對這個關鍵時刻。」Hassabis 也提到了他於七月發布的 AI 標準機構框架。
SpaceX 執行長 Elon Musk 轉發 Amodei 的文章並表示:「Dario 是對的。」
美國前總統 Donald Trump 在週一上午於 Truth Social 上發表了一篇冗長的貼文,反駁了減緩 AI 發展的想法:
「AI 唯一需要的控制或『護欄』是一位強大且聰明(高智商!)的總統,而美國正擁有這樣一位總統,而且綽綽有餘!川普政府已經阻止了 AI『人士』做壞事,或潛在的壞事,就像 Dario (Anthropic!)一樣,他現在正假裝是個『完美的小天使』——我們將繼續這樣做!
我們已經對這些公司擁有巨大的刑事和監管權力!現在正有一場針對 AI 和資料中心的惡劣陰謀,唯一樂見其成的是中國。誰贏得 AI,誰就贏得一切!我們正在領先中國和所有其他國家,並將繼續保持領先。陰謀論者、叛國者、賣國者和洩密者,請注意!感謝您對此事的關注!總統 DONALD J. TRUMP」
輝達(Nvidia)執行長黃仁勳在一次活動中,於台上接聽了川普的電話並開啟擴音,川普在電話中表示「機器人不會接管世界」。黃仁勳則說:「我們將確保美國在 AI 競賽中人人都是贏家。每個產業、每家公司、每個州、每個人。」
美國副總統 JD Vance 表示,他覺得前沿 AI 科技公司「有點奇怪,竟然跑來向政府乞求監管他們」,並補充說這「對我來說有點像特洛伊木馬」。他也提到總統曾說「我們知道中國正在與美國進行一場長期的 AI 競賽」。
眾議院議長 Mike Johnson 在 CNN 週日對 Jake Tapper 的採訪中表示:「我認為所有這些平台的領導者和供應商……他們需要與我們坐下來開會,找出正確的平衡點。我們不能暫停這項發展,因為中國會超越我們。這就是挑戰所在。這是國家安全與確保模型立即安全的平衡。」目前尚不清楚這次會議是否或何時會舉行,但 Johnson 表示他「明天」就會這麼做。
參議員 Bernie Sanders 表示,他同意《華爾街日報》專欄作家兼前 Ronald Reagan 演講撰稿人 Peggy Noonan 的觀點,Noonan 曾發表一篇題為「為了人類,暫停 AI」的文章。
前交通部長 Pete Buttigieg 在接受 NBC News 採訪時表示:「國會袖手旁觀,白宮無所作為,這對美國人民和全世界來說都極其危險。」他強調:「必須有保障措施、必須有規則、必須有限制、必須有針對失控 AI 的緊急終止開關。」
前白宮 AI 和加密貨幣沙皇 David Sacks 在 X 平台上發表長文表示:「Dario 寫道我們需要『放慢前沿發展速度』,而 Sam 也同意了。」Sacks 說:「人們可能會對我的回應感到驚訝:那就去做吧。」Sacks 還告訴他們「別再假裝需要別人的許可」以及「別再假裝減速的動機是純粹的利他主義」。
前聯邦貿易委員會(FTC)主席 Lina Khan 在 X 平台上發表長文開頭表示:「執法者已經有權力起訴那些製造和發布危險、未經審查或有缺陷產品的公司及其執行長。」她補充說:「我們不應該讓關於新法律制度的討論分散注意力,事實上,現行法律並沒有 AI 例外條款——這是我任職期間 FTC 反覆強調的一點。」
前副總統 Kamala Harris 在一系列推文中表示:「我們必須負責任地減緩前沿 AI 的發展速度。」她補充說:「減速至關重要,以確保 AI 符合公共利益。」
前 Meta 首席 AI 科學家 Yann LeCun 在 X 平台上回覆道:「Dario 早在 2019 年就聲稱 GPT2 太危險,不應開源。」他嘲諷說:「我當時就取笑他們了。現在每個人都應該取笑他們。」
