二十五位頂尖數學家共同簽署了一封公開信,指出AI實驗室在競相解決著名數學難題的過程中,正威脅著他們的知識工作。這些簽署者都曾榮獲費爾茲獎,該獎項被譽為數學界最崇高的榮譽。

本週,紐約大學教授Tristan Buckmaster指控OpenAI施壓,要求他不要為一位來自Anthropic的合作者署名,儘管該合作者解決了一個重要的數學問題。他同時質疑OpenAI是否利用他們與Codex合作的成果,在一個週末的推論馬拉松中,自行產出了突破性的證明。

週四,OpenAI在受到加州理工學院研究人員批評後,撤回了對該校一場數學活動的贊助。

儘管AI模型解決全球傑出數學難題的能力可能造福人類,但公開信的簽署者們認為,這只有在這些解決方案能被數學界乃至全世界理解和傳播的情況下才能實現。

他們寫道:「這些解決方案往往倉促發布,沒有足夠時間進行適當的撰寫、新方法和新思想的提煉,以及引用相關的先前工作。」OpenAI的證明至今仍未經證實。他們進一步指出:「如同所有創意專業,這引發了嚴重的歸屬權和抄襲問題。此外,如果沒有願意投入發展並將其整合到數學體系中的數學家,AI構思出的想法將永遠無法完全實現,數學家之間關鍵的人類傳承鏈也將斷裂。」

隨著其他數學家日益感到不安,並懷疑他們使用Codex的經驗是否反過來被用於訓練OpenAI的新模型,人們真正擔心開放研究文化將受到威脅。如今,如果頂尖實驗室發現一條有用的發現途徑,他們可以花費數千萬美元使用大型語言模型(LLM)搶先於原始研究人員提出證明,這種動態將助長保密主義。

這封公開信是在數學家工作小組於六月發布《萊頓宣言》(Leiden Declaration)之後提出的。該文件也探討了LLM證明將如何改變他們的工作方式,並為數學家、機構和政策制定者提供了一系列建議。

如同軟體工程和其他AI工具正在改變工作流程的領域,數學家們在「圍繞工作的工作」中找到了價值:數學的價值不僅僅在於證明和誰獲得榮譽,更在於滋養學生、發現新問題和新思想,並將其融入更廣闊人類文明的知識超結構。

如果你不特別關心高風險數學證明中競爭激烈的世界,請不要忘記:你感興趣的領域將是下一個。

他們寫道:「數學界目前面臨的問題,與其他科學和創意專業所面臨的問題相似,並預示著全人類可能面臨的問題:如何確保當AI改變工作方式時,我們不會忘記這項工作最初的目標是什麼。」