HPE 與 NVIDIA 合作推動代理型 AI 進入生產環境 強化安全性、治理、規模化與主權
HPE AI Factory 透過全新治理機制部署安全的 AI 代理,並藉由規模化 AI 資料管線提升 Token 經濟效益
HPE AI Factory with NVIDIA 新增 NVIDIA Vera CPU、NVIDIA Agent Toolkit 軟體與 NVIDIA 機密運算 Confidential Computing
台北訊-2026年6月25日-HPE Discover Las Vegas 2026-HPE(NYSE: HPE)今日宣布推出多項全新創新技術,協助客戶轉型為代理型企業(Agentic Enterprise),並以更高的安全性、治理力與掌控度將 AI 導入實際營運中落地運用。這些新技術進一步強化 HPE AI Factory with NVIDIA 解決方案,使智慧系統可自主適應、持續演進、協同運作並具備治理能力,以因應下一個 AI 時代的到來。

圖說:HPE 持續強化 AI 工廠解決方案,協助企業加速將 AI 導入實際營運,轉型為代理型企業。
「隨著 AI 自主性日益提升,企業需要全新的架構才能安全運行 、負責任地治理,並以具成本效益的方式實現規模化部署,」HPE 總裁暨執行長 Antonio Neri 表示。「HPE 攜手 NVIDIA 提供從網路、伺服器、儲存到軟體的全堆疊 AI 解決方案,為代理型企業奠定基礎,協助其以更高的掌控力與信心,從實驗階段邁向生產環境。」
「在 AI 代理時代,運算堆疊的每一層都正在被重塑,」NVIDIA 創辦人暨執行長黃仁勳表示。「我們與 HPE 一起打造因應新世代運算需求的 AI 工廠解決方案,結合 NVIDIA Vera CPU、加速運算基礎架構以及安全的 AI 軟體,協助企業將資料轉化為智慧行動。」
HPE AI Factory with NVIDIA 打造可全面投入營運的企業級代理型 AI
各產業的企業正積極探索如何在大規模生產環境中充分運用 AI 代理,並自動化業務流程與提升決策品質。隨著企業逐步於實際營運中落實代理型 AI,並最佳化 Token 使用效率,HPE 推出專為簡化此流程而設計的技術,同時提升整體安全性與效能。由 HPE 與 NVIDIA 共同開發的一站式 AI 工廠解決方案 HPE Private Cloud AI 導入多項全新功能,協助客戶以更高的掌控度、可觀測性與效率部署可信賴且符合企業需求的代理型 AI。
安全且可治理的代理型 AI 能提供企業所需的控管能力,協助其更順利地將 AI 代理從開發階段推向生產環境。NVIDIA Agent Toolkit 軟體,包含 NVIDIA Nemotron 開源模型、NVIDIA NemoClaw 與 NVIDIA OpenShell 安全執行環境,提供一套能進行高效推論的代理作業系統,讓客戶能夠監控AI代理行為、強化安全護欄(Guardrails),並降低部署風險。HPE Private Cloud AI 亦新增搭載 NVIDIA Vera CPU 的 HPE ProLiant Compute DL394 Gen12 伺服器,可作為代理型 AI 與高效能資料處理的最佳化運算基礎,並提供完善的安全性與管理功能。HPE Zerto Software 的新增功能協助客戶識別異常 AI 代理行為,並透過持續資料保護機制(Continuous Data Protection),將系統還原至未受影響的狀態。此外,HPE Private Cloud AI 支援安全的本地代理註冊,讓客戶能在遵循集中治理與資安政策的前提下核准 AI 模型、技能與工具的使用。
資料是 AI 發展歷程的基礎,但同時也可能成為最大瓶頸。HPE Private Cloud AI 協助企業在數分鐘內將非結構化資料轉換為支援 AI 的資料管線,同時提升推論效率。透過 HPE Alletra Storage MP X10000 內建的智慧功能,客戶可自動套用中繼資料與治理政策,為 AI 應用做好資料準備,並將 Token 回應時間縮短高達 20 倍1。HPE Private Cloud AI 亦可協助客戶提升指令處理效率,並將 Token 吞吐量提升高達 20%2,從而最佳化 AI 效能。HPE Data Fabric Software 將模型上下文協定(Model Context Protocol,MCP)的支援延伸至 Apache Airflow,大幅提高代理型工作流程的資料可用性,同時推出企業級 AI 資產盤點功能,透過中繼資料強化分散式資料。此外,可獨立部署於 HPE ProLiant 伺服器上的 HPE Data Fabric 解決方案有助於簡化並加速部署流程。
HPE Private Cloud AI 透過協助客戶控制 Token 成本、最大化 GPU 使用率,以及支援長期擴充需求,進一步最佳化 AI 投資效益。全新功能包括可在治理機制下存取先進模型的統一模型閘道、主動式工作負載優先排序、支援橫跨 256 顆 GPU 的多節點推論。此外,透過 NVIDIA NeMo,即可安全利用企業既有資料對 NVIDIA Nemotron 開原模型等預訓練的 AI 模型進行微調。
大規模 HPE AI Factory 解決方案提供更高的安全性
HPE 推出以下全新功能,持續提升大規模 HPE AI Factory 與 HPE Sovereign AI Factory 的能力:
- 支援大規模與主權架構的 NVIDIA 機密運算(Confidential Computing)技術:HPE 透過 HPE Services,將 NVIDIA
Confidential Computing 整合至 HPE AI Factory 解決方案。NVIDIA 機密運算可在地端或主權部署環境中,於執行期間保護模型與私有資料。透過在每個階段運用密碼學驗證(Cryptographic Attestation)與加密技術建立信任鏈,驗證硬體、軟體與資料集,HPE AI Factory 能夠符合各項區域及產業標準3。 此外,在整個 HPE AI Factory 架構中、NVIDIA BlueField 與 NVIDIA DOCA 可提供零信任策略執行、執行階段的威脅偵測以及網路加密功能,協助企業在維持效能與營運效率的同時,保護 AI 工作負載、AI代理與資料安全。 - 強化與 NVIDIA 技術整合:大規模 HPE AI Factory 解決方案以及 HPE Sovereign AI Factory 將支援 NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs、NVIDIA Spectrum-X 乙太網路、NVIDIA BlueField-3 DPUs 與 NVIDIA ConnectXSuperNIC。全堆疊 HPE AI Factory 基於 NVIDIA 參考架構,可支援從 AI 開發到大規模正式部署等廣泛應用情境,並搭載 NVIDIA AI Enterprise 軟體以及 HPE Unleash AI 計畫中的生態系合作夥伴方案。
HPE 近期亦宣布進一步擴展其 AI Factory 解決方案,包括搭載 NVIDIA Vera Rubin NVL72 的 HPE 機櫃級系統(Rack-Scale System)、基於 NVIDIA HGX Rubin NVL8 打造的 HPE Compute XD700、搭載 NVIDIA Vera CPU 的 HPE Cray Supercomputing GX240 運算刀鋒伺服器,以及支援 NVIDIA Quantum-X800 InfiniBand 的 HPE Cray Supercomputing GX5000。
- HPE Private Cloud AI 全新功能將於 2026 年 7 月上市。
- HPE Data Fabric Software 將於 2026 年 10 月上市。
- HPE Private Cloud AI 其他新增產品與功能,包括代理型可觀測性、資料智慧化功能、HPE Alletra Storage MP X10000、NVIDIA Agent Toolkit 以及 NVIDIA NemoClaw 將於 2026 年第四季上市。
- 支援 AI 代理行為監控與持續性資料保護的 HPE Zerto 軟體將於 2026 年第四季上市。
- 搭載 HPE ProLiant Compute DL394 Gen12 的 HPE Private Cloud AI 將於 2027 年上市。
- NVIDIA 機密運算將於 2026 年第四季起支援 HPE AI Factory with NVIDIA 。
- 搭載 NVIDIA RTX PRO Blackwell Server Edition GPU、Spectrum-X Ethernet、BlueField-3 DPU 及 ConnectX-8
SuperNIC 的 HPE AI Factory with NVIDIA 現已上市。
1在搭載八顆NVIDIA H200 NVL GPU的HPE ProLiant Compute DL380a Gen12伺服器以及配置三個控制器節點的HPE Alletra Storage MP X10000環境中,使用NVIDIA Nemotron 70B模型進行的基準測試。結果顯示,透過具備KV快取感知(KV Cache-Aware)的推論最佳化技術,首次Token回應時間(Time to First Token,TTFT)提升達20.4倍。
2根據HPE內部資料,針對託管於HPE Private Cloud AI系統上的三款主流大型語言模型執行五項標準 HuggingFace Leaderboard 推論與微調基準測試所得結果。
3網路安全成熟度模型認證(Cybersecurity Maturity Model Certification,CMMC)、美國國家標準暨技術研究院(National Institute of Standards and Technology,NIST)800系列標準、安全技術實作指南(Security Technical Implementation Guides,STIG)以及聯邦資訊處理標準(Federal Information Processing Standards,FIPS)。