Salesforce本週在其大型Dreamforce科技大會上，發布了名為Koa的全新AI模型，這是該公司首個推理模型。Koa基於Nvidia的開源Nemotron模型建構，兩家公司合作對其進行後續訓練，使其在銷售、行銷和客戶支援相關任務上表現出色。

Koa清晰地展示了企業界對AI的需求，正與頂尖AI實驗室所提供的服務產生分歧。專有AI實驗室更傾向於讓企業將檔案、程式碼、提示詞和回饋直接上傳到他們的模型和代理中，並為此花費數百萬美元。

透過Koa模型，Salesforce為其企業客戶提供了一個閉源頂尖模型的開源替代方案。這個模型專為執行特定工作任務而訓練，而非解決複雜的數學問題。

Koa未曾攝取任何實際客戶資料，因此不會洩露資訊給他人，同時由於使用較少token完成相同工作，有助於降低AI支出。此外，它能根據需求自動透過AI「閘道」進行路由，並遵循客戶在Salesforce內部所有資料要求和安全規範。

Koa將作為Salesforce Agentforce平台中其他模型的替代方案提供。客戶可以在Agentforce平台上建立代理，處理諸如回答客戶服務問題或安排預約等例行性任務。

Salesforce AI執行副總裁Jayesh Govindarajan向TechCrunch表示：「我們已經建立了許多小型、針對特定任務的語言模型，這些都是Agentforce產品組合的一部分。」他補充說：「但推理能力一直以來都依賴於頂尖模型供應商，直到現在。」

在Koa問世之前，如果一個代理需要透過長期或多步驟任務進行推理，這些提示詞會透過Agentforce的AI閘道（一個決定哪個模型處理哪個請求的系統），路由到像Claude或ChatGPT這樣的頂尖模型。

Govindarajan提到，他們之前沒有訓練自己的企業級頂尖模型，是因為缺乏一個可供起始的預訓練基礎模型。他指出：「直到Nemotron出現之前，市面上沒有一個主權屬於美國、達到最先進水準，並且擁有清晰資料來源的預訓練模型。」他還補充說：「我們根本不知道Qwen（阿里巴巴推出的熱門中國開源模型）是用什麼訓練的。」

對於這類模型進行後續訓練，意味著將其從通用系統轉變為精通銷售和客戶支援知識的專用系統。為此，Salesforce和Nvidia並未使用任何來自Salesforce客戶的實際資料，而是精心製作了模擬客戶模式的合成資料。

Govindarajan描述道：「我們實際上模擬了一個客戶服務環境，其中包含扮演客戶服務專業人員的角色，從致電客服中心的憤怒客戶，到努力促成交易的銷售專業人員，應有盡有。」

Koa的目標是在Salesforce客戶希望代理執行的工作任務上表現更佳，並且在token消耗方面比將相同任務發送給Claude或ChatGPT更便宜。

Nvidia企業生成式AI軟體副總裁Kari Ann Briski向TechCrunch表示，透過Nemotron，「我們擁有獨特的架構，能讓推理過程達到token效率。」她說：「這就像是您需要具備的三重奏：主權AI、首個token的時間效率，以及高效推理，以實現整體token經濟效益。」

然而，Salesforce並非完全放棄Anthropic或OpenAI。它剛宣布與Anthropic建立名為Claudeforce的合作夥伴關係，允許公司使用Claude作為其AI介面，同時客戶資料仍保留在Salesforce的記錄系統中，並由其基礎設施保護。