HPE 與 NVIDIA 深化合作,強化在 AI 工廠產品組合上的整合
- 由 HPE 與 NVIDIA 共同開發的 HPE Private Cloud AI 將支援 NVIDIA AI Enterprise 的功能分支模型更新與 NVIDIA Enterprise AI Factory 驗證設計。
- HPE Alletra Storage MP X10000 將提供適用於 NVIDIA AI Data Platform 的 SDK,以簡化非結構化資料的擷取、推論、訓練與持續學習流程。
- HPE AI 伺服器在超過 50 項產業基準測試中排名第一,配備 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 的HPE ProLiant Compute DL380a Gen12 亦將於 6 月 4 日起開放訂購。
- HPE 擴展旗下 OpsRamp 軟體中的加速運算優化工具,新增對 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 的支援。
2025 年 5 月 21 日-Hewlett Packard Enterprise(NYSE:HPE)宣布強化其 NVIDIA AI Computing by HPE 解決方案組合的多項功能,以全面支援 AI 生命週期,並滿足企業、服務供應商、政府單位與研發機構的多元需求。此次更新進一步深化了 HPE 產品與 NVIDIA AI Enterprise 的整合,包括擴大支援搭載加速運算能力的 HPE Private Cloud AI,以及推出適用於 NVIDIA AI Data Platform 的 HPE Alletra Storage MP X10000 軟體開發套件(SDK)。此外,HPE 也將針對 NVIDIA RTX PRO™ 6000 Blackwell Server Edition GPU 與 NVIDIA Enterprise AI Factory 驗證設計推出新運算與軟體解決方案。
「HPE 與 NVIDIA 的深度合作持續為雙方共同客戶帶來突破性成果,」HPE 總裁暨執行長 Antonio Neri 表示。「我們攜手打造了結合 HPE 強大解決方案的尖端 AI 技術,協助企業在 AI 歷程的各個階段充分發揮這些技術的潛力。我們的合作不僅滿足當前需求,更為 AI 驅動的未來奠定堅實基礎。」
「企業可利用 HPE 系統打造最先進的 NVIDIA AI 工廠,使其基礎架構為生成式與代理型 AI 的時代做好準備,」NVIDIA 創辦人暨執行長黃仁勳表示。「NVIDIA 與 HPE正攜手為企業奠定基礎,協助他們將資料智慧作為新型的產業資源,並從資料中心擴展至雲端與邊緣。」
HPE Private Cloud AI 新增 NVIDIA AI Enterprise 功能分支支援
HPE Private Cloud AI 是 HPE 與 NVIDIA 共同開發的一站式雲端 AI 工廠解決方案,包含專為開發者打造的工具,協助企業在組織內推動統一的 AI 策略,以提升工作負載效益並大幅降低風險。為加強協助 AI 開發者,HPE Private Cloud AI 將支援 NVIDIA AI Enterprise 的功能分支模型更新,包括 AI 框架、內含預訓練模型的 NVIDIA NIM 微服務與多項 SDK。透過功能分支模型支援,開發者可針對 AI 工作負載測試與驗證各項軟體功能和優化設定。搭配內建安全防護機制的既有生產分支模型支援,HPE Private Cloud AI 可協助各種規模的企業建置開發者系統,並擴展至生產等級的代理型與生成式 AI(GenAI)應用,同時在企業內部採用安全且多層次的策略。
HPE Private Cloud AI 是代理型與 GenAI 工作負載的全端解決方案,未來也將支援 NVIDIA Enterprise AI Factory 驗證設計。
HPE 最新儲存解決方案支援 NVIDIA AI Data Platform
HPE 將針對 HPE Alletra Storage MP X10000 推出適用於 NVIDIA AI Data Platform 參考設計的 SDK。藉由整合 HPE 最新資料平台與 NVIDIA 可自訂的參考設計,為客戶提供更快速的效能與智慧的流程協作,從而加速代理型 AI 的發展。全新 X10000 SDK 是 HPE 資料智慧策略的重要一環,可將具備情境資訊且適用於 AI 的資料直接整合至 NVIDIA AI 生態系統中,進一步簡化 NVIDIA 加速基礎架構中非結構化資料的擷取、推論、訓練與持續學習流程。此 SDK 整合的主要效益包括:
- 透過靈活的即時資料處理、向量索引、更強大的中繼資料與資料管理機制,充分釋放資料價值。
- 透過 GPU 記憶體、系統記憶體與 X10000 之間的遠端直接記憶體存取(RDMA)進行資料傳輸,加速通往 NVIDIA AI Data Platform 的資料路徑,從而提升效率。
- 透過 X10000 的模組化、組合式建構模組,使客戶能夠依據不同工作負載需求獨立擴展容量與效能,以最適規模進行部署。
客戶可透過 RDMA 傳輸技術順暢統一儲存與資料智慧層,利用原始企業資料為代理型 AI 應用程式和工具提供資訊。HPE 與 NVIDIA 攜手合作,為客戶開創從邊緣、核心到雲端的即時智慧資料存取新時代。
更多關於此次整合的最新資訊將於 HPE Discover Las Vegas 2025 大會上公布。
業界領先的AI伺服器全面升級,新增對NVIDIA RTX PRO 6000 Blackwell的支援
搭載搭載 NVIDIA H100 NVL、H200 NVL 與 L40S GPU 的 HPE ProLiant Compute DL380a Gen12 伺服器在最新一輪 MLPerf Inference: Datacenter v5.0 基準測試的 10 項測試中名列前茅,包括 GPT-J、Llama2-70B、ResNet50 與 RetinaNet。此款業界領先的 AI 伺服器即將推出搭載 10 個 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 的版本,為企業 AI 工作負載提供更強大的功能與更卓越的效能,包括多模態代理型 AI 推論、實體 AI、模型調校,以及設計、圖形與影音應用等多元場景的支援。主要特色包括:
- 先進的散熱選項:HPE ProLiant Compute DL380a Gen12 提供氣冷與直接液冷(DLC)兩種選擇,運用 HPE 領先業界的液冷技術[1],在高負載情況下維持最佳效能。
- 更強大的安全防護:HPE ProLiant Compute Gen12 系列內建 HPE Integrated Lights Out(iLO)7,並具備基於信任根技術的安全防護機制,是業界首款支援後量子密碼學的伺服器,且符合 FIPS 140-3 Level 3 高層級加密安全標準的嚴格要求。
- 營運管理能力:HPE Compute Ops Management 為伺服器環境提供安全且自動化的生命週期管理功能,透過主動告警與 AI 預測分析,協助提升能源效率與整體系統健康狀況。
HPE 的另外兩款伺服器也在 MLPerf Inference v5.0 基準測試中名列前茅。透過第三方驗證,HPE 不僅證明其在 AI 創新領域的領導地位,更展現 HPE AI Factory 解決方案的強大實力。這些系統連同 HPE ProLiant Compute DL380a Gen12,在超過 50 項的測試場景中領先群倫。其中:
- 搭載雙插槽 NVIDIA GH200 NVL2 的 HPE ProLiant Compute DL384 Gen12 伺服器在四項測試中排名第一,包括包 Llama2-70B 與 Mixtral-8x7B。
- 配備 8 個 NVIDIA H200 SXM GPU 的 HPE Cray XD670 伺服器在 30 個不同測試場景中奪得第一,包括大型語言模型(LLM)與電腦視覺任務。
以全新加速運算優化解決方案強化 AI 基礎架構
HPE 擴大旗下 OpsRamp 軟體的 AI 基礎架構優化解決方案,以支援即將推出的 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU,讓 AI 工作負載更順暢運行。HPE 這款軟體即服務(SaaS)解決方案將協助企業 IT 團隊簡化在混合環境中部署、監控與優化分散式 AI 基礎架構。HPE OpsRamp 能提供 AI 工作負載至基礎架構的全端可觀測性、工作流程自動化能力,以及 AI 驅動的分析與事件管理功能。HPE OpsRamp 已與 NVIDIA 基礎架構深度整合,包括 NVIDIA 加速運算、NVIDIA BlueField、NVIDIA Quantum InfiniBand 與 Spectrum-X乙太網路平台,以及 NVIDIA Base Command Manager,可提供精細的衡量指標,更有效監控 AI 基礎架構的效能與韌性。
HPE OpsRamp 提供 IT 團隊以下能力:
- 監控 AI 基礎架構整體健康狀況與效能表現,包括 GPU 溫度、使用狀況、記憶體用量、功耗、時脈速度與風扇轉速。
- 追蹤 GPU 與 CPU 在叢集中的使用狀況,以優化工作排程與資源利用。
- 自動回應特定事件,例如降低時脈速度或關閉 GPU 以避免損壞。
- 分析歷史效能與使用狀況資料,以預測未來資源需求並優化配置。
- 監控功耗與資源使用狀況,以優化大規模 AI 部署的成本。
上市時程
- HPE Private Cloud AI 將於今年夏季新增對 NVIDIA AI Enterprise 功能分支的支援。
- HPE Alletra Storage MP X10000 SDK 以及對 NVIDIA 加速運算基礎架構的直接記憶體存取功能預計於 2025 年夏季開始提供。
- 搭載 NVIDIA RTX PRO 6000 Server Edition 的 HPE ProLiant Compute DL380a Gen12 將於 2025年 6 月 4 日起開放訂購。
- HPE OpsRamp 軟體將於 NVIDIA RTX PRO 6000 Server Edition 上市時同步提供支援。
延伸閱讀
- 發揮物件儲存的資料智慧與效能,全面加速AI應用
- HPE ProLiant Compute Gen12:HPE締造AI推論世界紀錄,持續展現卓越效能
- HPE Cray XD670:HPE於最新MLPerf基準測試中展現頂尖的AI推論效能
1 根據 2024 年 11 月公布的 TOP500榜單,HPE 打造並交付了全球最快的直接液冷超級電腦。
關於Hewlett Packard Enterprise
慧與科技公司(NYSE: HPE)是全球科技領導廠商,致力於開發智慧解決方案,協助客戶順暢地擷取、分析並運用資料。HPE在網路、混合雲和人工智慧領域不斷創新,幫助客戶開發新商業模式、創造新互動模式,同時提升營運績效。如需更多資訊,請至 www.hpe.com。
敦新科技為HPE伺服器及儲存設備的專業代理商,提供IT投資解決方案幫助客戶轉型數位化業務,協助HPE經銷夥伴專業銷售,凝聚從基礎架構建置到儲存設備,以及資料安全到專業服務的全面銷售能力。最新各種機種及HPE專業服務,歡迎洽詢HPE事業部: 02-8978-5386,或造訪: www.dawningtech.com.tw。