驅動 ChatGPT 和 Gemini 等 AI 聊天機器人的大型語言模型（LLM）正在改變世界，這點毫不誇張。許多人現在都依賴它們來進行程式編寫、寫作、摘要和網路搜尋。無論未來幾年 AI 走向何方，LLM 都將是其中不可或缺的一部分。

如果你使用 ChatGPT、Claude、Perplexity 或任何其他 AI 平台，那麼你正在使用 LLM。然而，較少人知道的是，這些 LLM 也能在本機電腦上執行。主要優點是能夠離線存取和擁有更高的隱私性，因為你不需要將任何資料傳送到雲端供他人分析或審查。

此外，你也不必向任何 AI 公司支付月費或受限於使用量。許多 LLM 都可以免費下載，包括 Meta 和 Google 等大公司提供的模型。儘管它們可能不如付費應用程式中的 LLM 那樣先進或快速，但對於日常使用來說已經足夠，你可以根據需要自由選擇。

本機執行確實需要更多的維護工作，並且會失去直接開啟 ChatGPT 應用程式的便利性（例如，你需要自行處理更新）。然而，你會獲得一個更個人化且私密的 AI 系統，而且入門並不困難。

入門所需條件

你可以在 Windows、macOS 和 Linux 上執行本機 LLM，儘管 macOS 往往是大多數 AI 愛好者的首選平台。Mac 電腦的一切都更加統一和一致——與 Windows PC 不同，只有一家公司製造它們——而且 Apple Silicon 晶片將 CPU、GPU 和 RAM 整合在一起，這正是 AI 模型所喜歡的架構。

無論你選擇哪個平台，充足的記憶體（RAM）都會有很大幫助。最低要求是 8 GB，但如果只有這麼多，你將在可執行的 LLM 大小和速度方面受到限制。16 GB 會更好，如果你想使用最大、最快的模型，則需要 32 GB 或更多。為了獲得最佳效果，你需要獨立顯示卡上充足的顯示記憶體（VRAM），任何超過 8 GB 的 VRAM 都會有所不同，因為這種記憶體針對 AI 模型執行的任務進行了優化。

如果你使用 Windows 系統，一張獨立的 Nvidia GPU 會非常有幫助：顯示晶片比標準處理器更適合執行 AI 運算，這也是 Nvidia 與 AI 熱潮如此緊密相關的部分原因。這些獨立顯示卡也會有自己的記憶體，為 AI 模型提供額外的運算空間。

因此，雖然執行本機 LLM 沒有「最低規格」要求，但盡可能多的記憶體和一張獨立顯示卡肯定會有幫助。接下來，你需要一個軟體來執行模型（作為外部介面），以及模型本身。兩者都有許多選擇，你可以根據需要自由挑選。

對於初學者來說，LM Studio Bionic 通常被認為是 Windows 和 macOS 上最佳的 AI 應用程式選擇，而且它是免費的。其他受歡迎且值得信賴的選項包括 vLLM、Llama.cpp、Ollama 和 GPT4All，這些也同樣適用於多種作業系統。不過，這些軟體在技術上會稍微複雜一些。

選定 AI 應用程式後，另一個決定就是選擇一個 LLM。我們提到的軟體程式會引導你選擇一些選項，此外還有線上模型庫，其中最知名的是 Hugging Face（提供超過 300 萬個模型，選擇非常豐富）。

本機 LLM 設定範例

本機 LLM 有多種設定方式，但我們將逐步引導你在 Windows 上設定 LM Studio Bionic 的過程，讓你了解其運作方式。從網站下載安裝檔並成功執行 LM Studio Bionic 後，點擊「Create Project」開始，並為你的第一個專案命名。

一個空白的對話視窗會開啟：如果你在提示框中點擊「Choose a model」，然後選擇「Get local models」，你將進入 LM Studio Bionic 的主要模型選擇器。每個可用模型都會列出其大小、受歡迎程度和一些詳細資訊——如果你想獲得一些入門建議，可以留意「staff picks」。較小的模型功能可能不那麼強大，但它們下載速度更快，佔用系統空間也較少。

回到聊天介面，一切都與標準的 AI 聊天機器人應用程式類似。在底部的提示框中，你可以選擇你的 AI 模型（如果你安裝了多個 LLM），而在提示框的左側，有一個「+」圖示，用於提交圖片和檔案（如果當前模型支援此功能）。

介面的左側是導覽窗格，你可以在其中切換專案。透過導覽窗格左下角的「Settings」連結，你可以進入 LM Studio Bionic 的偏好設定畫面。這裡有許多自訂軟體的方式，從已刪除聊天的處理方式到螢幕上的介面元素。

在「Settings」中點擊「Library」可以管理你現有的模型，或點擊「Explore」選單項目來尋找新模型。如果你需要圖片和文件支援，請尋找多模態模型（Multimodal models）。（嚴格來說，這些模型是在 LLM 的基礎上建構的，儘管它們通常仍被稱為 LLM。）

LM Studio 介面最後一個重要的部分是右側邊欄，可以透過右上角的按鈕顯示或隱藏。這些選項讓你能夠進一步管理跨專案的檔案，並在需要時授予程式存取電腦檔案系統的權限。