人工智慧正在重塑世界,同時也創造了一套全新的語言來描述其運作方式。現今,無論是產品會議、提案簡報或座談會,你都會聽到人們頻繁提及 LLM、RAG、RLHF 等術語。上週,OpenAI 新的 Astra 模型中使用的「不透明遞迴」(opaque recurrence)推理技術,甚至讓 AI 安全研究人員感到不安。這些詞彙的更新速度之快,足以讓科技界許多聰明人感到些許不安。

本詞彙表旨在解決這個問題,提供你最常接觸到的 AI 術語的淺白英文定義。無論你是 AI 開發者、投資者,或是單純透過閱讀 TechCrunch 或收聽相關 Podcast 來跟上趨勢,都能從中受益。隨著這個領域的發展,我們會定期更新,因此請將其視為一份活文件,就像它所描述的 AI 系統一樣。

通用人工智慧(Artificial General Intelligence, AGI)是一個模糊的術語。但它通常指在許多(如果不是大多數)任務上,能力超越一般人類的 AI。OpenAI 執行長 Sam Altman 曾將 AGI 描述為「你可以僱用作為同事的普通人類的等價物」。

同時,OpenAI 的章程將 AGI 定義為「在大多數具有經濟價值的工作上,表現優於人類的高度自主系統」。Google DeepMind 的理解與這兩種定義略有不同;該實驗室將 AGI 視為「在大多數認知任務上,至少與人類能力相當的 AI」。感到困惑嗎?別擔心,就連 AI 研究領域的頂尖專家也一樣。

AI 代理(AI agent)是指一種利用 AI 技術,能代表你執行一系列任務的工具,其能力超越了基本的 AI 聊天機器人。這些任務包括報銷費用、預訂機票或餐廳座位,甚至編寫和維護程式碼。然而,正如我們之前解釋過的,這個新興領域有許多變動的環節,因此「AI 代理」對不同人來說可能意味著不同的事物。

支援其預期功能的基礎設施也仍在建構中。但其基本概念是指一個自主系統,它可能利用多個 AI 系統來執行多步驟任務。

將 API 端點(API endpoints)想像成軟體背後的「按鈕」,其他程式可以按下這些按鈕來讓軟體執行特定功能。開發人員利用這些介面來建立整合,例如允許一個應用程式從另一個應用程式中提取資料,或者讓 AI 代理直接控制第三方服務,而無需人類手動操作每個介面。

大多數智慧家庭設備和連網平台都提供這些隱藏按鈕,即使普通用戶從未見過或與之互動。隨著 AI 代理的能力越來越強,它們也越來越能夠自行找到並使用這些端點,為自動化開啟了強大且有時出乎意料的可能性。

對於一個簡單的問題,人類大腦無需過多思考就能回答,例如「長頸鹿和貓哪一個比較高?」但在許多情況下,你常常需要紙筆來得出正確答案,因為其中包含中間步驟。舉例來說,如果一位農夫有雞和牛,牠們總共有 40 個頭和 120 條腿,你可能需要寫下一個簡單的方程式才能得出答案(20 隻雞和 20 頭牛)。

在 AI 情境中,大型語言模型的「思維鏈」(Chain of Thought)推理意味著將問題分解為更小、中間的步驟,以提高最終結果的品質。雖然通常需要更長的時間才能得到答案,但答案更有可能是正確的,尤其是在邏輯或程式設計的背景下。推理模型是從傳統大型語言模型發展而來,並透過強化學習針對思維鏈思考進行了優化。

這是一個比「AI 代理」更具體的概念,AI 代理是指一個能夠自行逐步採取行動以完成目標的程式。程式碼代理(Coding agents)是應用於軟體開發的專門版本。程式碼代理不僅僅是建議程式碼供人類審查和貼上,它還可以自主編寫、測試和偵錯程式碼,處理通常會佔用開發人員一整天的迭代、試錯工作。

這些代理可以在整個程式碼庫中運作,發現錯誤、執行測試並推送修復,且只需最少的人工監督。你可以將其想像成僱用一位速度極快、從不睡覺且從不分心的實習生,儘管與任何實習生一樣,人類仍然需要審查其工作。

儘管「算力」(Compute)這個詞有些多義,但它通常指的是讓 AI 模型得以運作的關鍵計算能力。這種處理能力推動著 AI 產業的發展,使其能夠訓練和部署強大的模型。這個術語也常被用作提供計算能力的硬體簡稱,例如 GPU、CPU、TPU 以及構成現代 AI 產業基石的其他形式基礎設施。

深度學習(Deep learning)是機器學習的一個子集,其 AI 演算法設計採用多層次的人工神經網路(ANN)結構。這使得它們能夠建立比線性模型或決策樹等更簡單的機器學習系統更複雜的關聯。深度學習演算法的結構靈感來自於人腦中神經元相互連接的路徑。

深度學習 AI 模型能夠自行識別資料中的重要特徵,而無需人類工程師定義這些特徵。這種結構也支援演算法從錯誤中學習,並透過重複和調整的過程來改進其輸出。然而,深度學習系統需要大量的資料點才能產生良好的結果(數百萬或更多)。與更簡單的機器學習演算法相比,它們通常需要更長的訓練時間,因此開發成本往往更高。

擴散模型(Diffusion)是許多藝術、音樂和文字生成 AI 模型的核心技術。擴散系統受物理學啟發,透過添加雜訊,緩慢地「破壞」資料的結構,例如照片、歌曲等,直到什麼都不剩。在物理學中,擴散是自發且不可逆的,例如溶解在咖啡中的糖無法恢復成方糖。但 AI 中的擴散系統旨在學習一種「逆向擴散」過程,以恢復被破壞的資料,從而獲得從雜訊中復原資料的能力。

知識蒸餾(Distillation)是一種利用「教師-學生」模型,從大型 AI 模型中提取知識的技術。開發人員向教師模型發送請求並記錄其輸出。有時會將答案與資料集進行比較,以評估其準確性。這些輸出隨後用於訓練學生模型,使其能夠近似教師模型的行為。

知識蒸餾可用於在大型模型的基礎上,以最小的蒸餾損失建立一個更小、更高效的模型。這很可能是 OpenAI 開發 GPT-4 Turbo(GPT-4 的更快版本)的方式。

儘管所有 AI 公司都在內部使用知識蒸餾,但一些 AI 公司可能也曾利用它來追趕領先模型。從競爭對手那裡進行知識蒸餾通常會違反 AI API 和聊天助理的服務條款。

微調(Fine-tuning)是指對 AI 模型進行進一步訓練,以優化其在特定任務或領域的表現,使其超越先前訓練的重點。這通常透過輸入新的、專門的(即面向任務的)資料來實現。

許多 AI 新創公司以大型語言模型為起點來開發商業產品,但他們正努力透過基於自身領域特定知識和專業的微調,來增強模型在目標行業或任務中的實用性。

生成對抗網路(Generative Adversarial Network, GAN)是一種機器學習框架,支撐著生成式 AI 在產生逼真資料方面的一些重要發展,包括(但不限於)深度偽造工具。GAN 涉及使用一對神經網路,其中一個網路利用其訓練資料生成輸出,然後將其傳遞給另一個模型進行評估。

這兩個模型基本上被程式設計成互相競爭。生成器試圖讓其輸出通過判別器,而判別器則努力辨識人工生成的資料。這種結構化的競爭可以優化 AI 輸出,使其更逼真,而無需額外的人工干預。儘管 GAN 最適用於較窄的應用(例如產生逼真的照片或影片),而非通用型 AI。

幻覺(Hallucination)是 AI 產業用來指稱 AI 模型「憑空捏造」資訊的術語,也就是生成不正確的資訊。顯然,這是 AI 品質的一個巨大問題。

幻覺會產生誤導性的生成式 AI 輸出,甚至可能導致現實生活中的風險,帶來潛在的危險後果(想像一下健康查詢卻得到有害的醫療建議)。

AI 捏造資訊的問題被認為是訓練資料中存在空白所導致的。幻覺正促使業界推動開發日益專業化和/或垂直化的 AI 模型,即需要更窄專業知識的領域特定 AI,以此作為減少知識空白和降低假資訊風險的方法。

推論(Inference)是執行 AI 模型的過程。它讓模型自由地從先前看過的資料中做出預測或得出結論。需要明確的是,沒有訓練就無法進行推論;模型必須先學習一組資料中的模式,才能有效地從這些訓練資料中進行推斷。

許多類型的硬體都可以執行推論,從智慧型手機處理器到強大的 GPU,再到客製化的 AI 加速器。但並非所有硬體都能同樣良好地執行模型。例如,在筆記型電腦上運行非常大的模型需要很長時間才能做出預測,而使用配備高階 AI 晶片的雲端伺服器則快得多。

大型語言模型(Large Language Model, LLM)是 ChatGPT、Claude、Google 的 Gemini、Meta 的 AI Llama、Microsoft Copilot 或 Mistral 的 Le Chat 等熱門 AI 助理所使用的 AI 模型。

當你與 AI 助理聊天時,你就是與一個大型語言模型互動,它會直接處理你的請求,或藉助網路瀏覽、程式碼解譯器等不同可用工具來完成。

LLM 是由數十億個數值參數(或權重,見下文)組成的深度神經網路,它們學習詞彙和短語之間的關係,並建立一種語言的表示,一種多維度的詞彙地圖。

這些模型是透過編碼它們在數十億本書籍、文章和文字記錄中發現的模式而創建的。當你向 LLM 提出提示詞時,模型會生成最符合該提示詞的可能模式。

記憶體快取(Memory cache)是指一個重要的過程,它能提升推論(即 AI 產生使用者查詢回應的過程)的效率。本質上,快取是一種優化技術,旨在使推論更有效率。AI 顯然是由高強度的數學計算驅動的,每次進行這些計算都會消耗更多電力。快取旨在透過儲存特定計算結果,供未來的用戶查詢和操作使用,從而減少模型可能需要執行的計算次數。

記憶體快取有不同的種類,其中一個較為人知的是 KV(鍵值)快取。KV 快取在基於 Transformer 的模型中運作,透過減少生成用戶問題答案所需的時間(和演算法工作量)來提高效率,從而加速結果。

模型上下文協定(Model Context Protocol, MCP)是一個開放標準... (文章在此處截斷)