企業正將代理式 AI 從概念驗證階段推向實際生產,而新一代的 AI 工廠正是為代理時代所打造。
在 HPE Discover Las Vegas 大會上(展期至 6 月 18 日星期四),NVIDIA 與 HPE 宣布擴展 HPE AI Factory with NVIDIA,其中包含專為 HPE Private Cloud AI 設計的 NVIDIA Vera CPU 和 NVIDIA Agent Toolkit。
此外,NVIDIA Confidential Computing 也將全面應用於 HPE AI Factory,並強化了 NVIDIA 加速運算、NVIDIA AI 軟體和 NVIDIA 網路等全堆疊整合,涵蓋整個產品組合。
**NVIDIA Vera CPU 將與 HPE Private Cloud AI 搭配提供**
搭載 NVIDIA Vera CPU 的 HPE ProLiant Compute DL394 Gen12 將於 2027 年與 HPE Private Cloud AI 一同推出。HPE Private Cloud AI 是與 NVIDIA 共同設計的統包式 AI 工廠解決方案。
Vera 是首款專為代理式 AI 設計的 CPU,旨在處理代理迴圈中所需的工具呼叫、協調和即時資料處理,為 HPE Private Cloud AI 帶來確定性、低延遲的效能。
紐約證券交易所與 Redpanda 及 HPE 合作,成為早期企業客戶之一,正在探索將 Vera CPU 與 HPE ProLiant Compute DL394 Gen12 伺服器結合應用。
Vera CPU 是 NVIDIA Vera Rubin 平台的一部分,該平台正透過 HPE 提供的 NVIDIA Vera Rubin NVL72 機架級系統全面投入生產。Vera Rubin 專為超過一兆參數的尖端大型模型設計,並將在每個晶片中搭載全堆疊的 NVIDIA Confidential Computing。
HPE 也將把基於 NVIDIA HGX Rubin NVL8 建構的 HPE Compute XD700 導入 HPE AI Factory,每個機架可支援多達 128 個 Rubin GPU。
**NVIDIA Agent Toolkit 現已支援 HPE Private Cloud AI**
NVIDIA Agent Toolkit 將與 HPE Private Cloud AI 一同提供,其中包含 NVIDIA Nemotron 開放模型、NVIDIA OpenShell 安全執行環境和 NVIDIA NemoClaw 藍圖。它們共同為企業提供一個代理式 AI 作業系統,用於監控代理行為、執行治理政策,並安全地建構和運行自主、長期運作的多代理系統。
HPE Private Cloud AI 新增了安全的本地代理註冊功能,讓客戶在運行 AI 模型、技能和工具之前,能根據集中式治理和安全政策進行批准。新的 HPE Zerto Software 功能可偵測惡意代理行為,並利用持續資料保護將系統回復到乾淨狀態。
在資料方面,HPE Alletra Storage MP X10000 已獲得 NVIDIA-Certified Storage 的基礎級認證,它能自動應用中繼資料和治理政策,為 AI 管線準備非結構化資料,從而提高 token 吞吐量。
**NVIDIA Confidential Computing 涵蓋所有 HPE AI Factory 解決方案**
NVIDIA Confidential Computing 現已透過 HPE Services 應用於 HPE AI Factory 的所有解決方案,包括 HPE AI Factory at Scale、HPE Sovereign AI Factory 和 HPE Private Cloud AI。
AI 應用程式會存取和使用需要保護的私人與敏感資料。此外,使用專有資料或技術訓練的模型也需要防止資料外洩。機密運算對於這些現代 AI 工作負載至關重要,因為它能在地端部署和主權部署的執行過程中保護模型和私人資料,透過密碼學證明和每個階段的加密建立信任鏈。
此外,HPE ProLiant Compute DL380a 已獲得 NVIDIA Confidential Computing 專案的 NVIDIA-Certified Systems 認證,該認證驗證了機密運算下強大的應用程式效能。這些系統為 AI 工作負載和敏感資料資產提供硬體級保護,同時保持最佳的 NVIDIA 加速效能。
在 HPE AI Factory 解決方案中,NVIDIA BlueField DPU 和 NVIDIA DOCA 提供晶片內建的零信任政策執行、執行時威脅偵測和網路加密,在不影響效能的情況下保護 AI 工作負載、代理和資料。
**全系列產品強化 NVIDIA 全堆疊整合**
HPE AI Factory at Scale、HPE Sovereign AI Factory 和 HPE Private Cloud AI 現已支援 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU、NVIDIA Spectrum-X 乙太網路、NVIDIA BlueField-3 DPU 和 NVIDIA ConnectX-8 SuperNIC。
對於下一代 AI 工廠,每個 Vera Rubin NVL72 系統都將內建 NVIDIA 網路,包括 NVIDIA Vera BlueField-4 DPU、NVIDIA ConnectX-9 SuperNIC 和 NVIDIA Spectrum-X 乙太網路。其中 NVIDIA Spectrum-6 交換器為 AI 通訊提供比市售乙太網路高 1.6 倍的網路效能。
Spectrum-X 乙太網路是 HPE AI Factory with NVIDIA 的標準配置,涵蓋現有的大規模、主權和統包式 AI 工廠解決方案。針對大規模和主權工作負載,HPE 已在三月的 NVIDIA GTC 大會上宣布,將新增 NVIDIA InfiniBand 網路選項,包括搭配 HPE Cray Supercomputing GX5000 的 NVIDIA Quantum-X800 InfiniBand。
這些配置基於 NVIDIA 參考架構,並支援從 AI 開發到生產規模部署的各種使用案例,搭配 NVIDIA AI Enterprise 軟體和 HPE Unleash AI 生態系統。
在本週的 HPE Discover 大會上,Unleash AI 合作夥伴計畫正在擴展,新增了近十二家 AI 軟體合作夥伴,包括 Aizen、BridgeTEK、deepset、Deliverance、Faclon Labs、Gallop、Rocket、Supervity、Thales、Trustwise 和 Vortiqx。
與會者可在展會期間探索這些解決方案,並進一步了解 HPE AI Factory with NVIDIA,這是 NVIDIA AI Computing by HPE 產品組合的一部分。
