AI 能處理三種推理中的兩種
為了找出差距所在，Zahavy 借鑒了哲學家查爾斯·桑德斯·皮爾斯（Charles Sanders Peirce）的經典區分，他將所有推理分為三類，取決於它們如何連結規則、案例和結果。
演繹推理是從固定規則中得出必然結論，就像運行一個能產生可證明正確輸出的程式。歸納推理是從數據中發現模式：觀察一千隻白天鵝，然後概括出所有天鵝都是白色的。溯因推理則是一種創造性的飛躍，它發明一個原因來解釋一個令人驚訝的現象。
Zahavy 認為第三種推理是關鍵瓶頸所在，他將其分為兩個層次。普通的溯因推理是從一組已知候選方案中選擇最合理的解釋，就像醫生將症狀與疾病匹配一樣。他承認，語言模型可以做到這一點。然而，更難的版本是他所稱的「操控性溯因推理」：發明一種尚無語言模板可循的原因。他認為，這才是科學發明的真正瓶頸，而機器目前無法做到。
論文指出，歸納推理和演繹推理已在 AI 的掌握之中。語言模型在統計模式識別方面表現出色，並且也正迅速攻克形式推導。AlphaProof、Gemini 和 GPT-5 等系統現在已在國際數學奧林匹亞競賽問題上達到金牌水準。Zahavy 甚至承認，如果給定愛因斯坦的假設作為起點，語言模型很可能可以推導出廣義相對論。但最初提出這些假設，做出操控性的飛躍來達到它們，仍然是瓶頸。
Zahavy 以廣義相對論為例，闡釋了機器為何難以實現這種飛躍：AI 模型通常透過將其預測與現實進行比較，並根據錯誤（預測與結果之間的差距）進行調整來學習。如果沒有可檢測的錯誤，系統就無從下手。Zahavy 認為，這正是愛因斯坦當時面臨的情況。
愛因斯坦工作時，並沒有數據危機。牛頓物理學已得到極高的精確度證實。唯一已知的異常是水星軌道的一個微小偏移，當時被歸因於一顆假設的隱藏行星「祝融星」（Vulcan）。Zahavy 認為，一個由優化驅動的 AI 沒有理由推翻物理學。按照這種邏輯，它會像當時的天文學家一樣：發明一顆額外的行星來解釋微小差異，而不是重新思考時空。證實愛因斯坦理論的數據，例如愛丁頓對光線偏轉的測量，直到理論提出多年後才出現。
飛躍需要具身經驗
那麼，引導愛因斯坦得出其公理的操控性溯因推理從何而來？Zahavy 指出愛因斯坦「最快樂的想法」：一個自由落體的觀察者不再感受到重力。這個洞見來自具身模擬，愛因斯坦在腦海中模擬一種物理感覺，而不是埋頭於方程式。他想像一位物理學家身處太空加速的電梯中，並得出結論：從內部來看，加速和重力是無法區分的。
Zahavy 將此與阿基米德進行了類比，據說阿基米德並非透過計算，而是透過踏入浴缸時水面上升的身體感受，才發現了他的浮力原理。在這兩個案例中，一個當時語言中尚未存在的基本原理應運而生。
語言模型恰恰缺乏這種感官基礎。Zahavy 將它們比作哲學家約翰·塞爾（John Searle）的「中文房間」思想實驗，其中一個人按照規則手冊操作中文字符，卻不理解任何一個字。語言模型以類似的方式操作物理符號，卻無法接觸到賦予這些符號意義的物理經驗。
Sakana 的 AI Scientist 和 DeepMind 的 AlphaEvolve 在自動化科學工作流程方面表現出色。但 AI Scientist 僅重新組合現有概念，而 AlphaEvolve 則能出色地優化，但它需要一個清晰的錯誤訊號，以便逐步縮小差距。愛因斯坦從未有過那樣的訊號。Zahavy 認為，這兩個系統都無法實現跳躍，進入一個全新的思維框架。
世界模型作為溯因推理的途徑
作為一種可能的解決方案，Zahavy 指向了物理上一致的世界模型。他在此劃清界線：像 Veo 這樣的影片生成器只是預測最可能的下一幀。蘋果之所以會掉落，並非因為模型理解重力，而是因為掉落是訓練數據中最常見的延續。這仍然只是模式匹配。
另一方面，像 Genie 這樣可行動控制的世界模型，則允許代理在模擬中主動干預並運行反事實實驗，例如在腦海中切斷電梯纜繩。這樣一個「合成實驗室」可以提供所需的反饋迴路，以發明尚無語言模板可循的新公理。