HPE AI 伺服器與 AI-Stack 攜手，打造企業級人工智慧算力新典範
發布時間：2025/07/22
在人工智慧（AI）技術飛速發展、應用需求日益多元的當下，多數企業對高效、彈性的算力資源管理方案需求快速攀升。慧與科技（HPE）與數位無限（INFINITIX）深刻洞察市場挑戰，於是攜手建立策略夥伴關係，推出整合性的 AI 解決方案，形成一套涵蓋強大硬體基礎設施與 AI 資源智慧調度系統的全棧式服務。
此方案充分展現 HPE 於伺服器硬體優化、資安架構強化及節能永續技術推動上的深厚實力，並結合數位無限在 GPU 資源調度、MLOps 平台建置及 AI 應用加速等方面的技術優勢。藉由雙方緊密協作，不僅可大幅縮短 AI 模型開發與部署週期，更顯著提升算力資源的運用效率，為各行各業鋪設了通往 AI 驅動未來的前行路徑。
HPE ProLiant Gen12 伺服器，為 AI 而生的效能與安全雙重保證
HPE ProLiant Gen12 伺服器系列專為生成式 AI（GenAI）與傳統 AI 工作負載量身打造，完整涵蓋從模型訓練、微調到推論等各階段需求。例如 DL380a Gen12 伺服器最多可支援 10 張 NVIDIA H200 NVL GPU，而 DL384 Gen12 最多能搭載兩顆 NVIDIA GH200 Superchip，組成 GH200 NVL2 配置（每張 GH200 Superchip 包含 1 顆 Grace CPU 與 1 顆 Hopper GPU），特別適用於混合記憶體密集型的 AI 工作負載。這些伺服器均可展現卓越的擴充性，提供從 1U 到 4U、從單處理器至四處理器的多元機型，能夠靈活滿足不同 AI 成熟度的企業需求。
在資訊安全方面，HPE ProLiant Gen12 伺服器搭載 HPE iLO 7 管理模組，提供業界領先的防護能力，透過諸如「安全隔離區」與「矽信任根保護」（Silicon Root of Trust）等獨家創新技術，確保從製造到退役的全程安全性。另外，此系列伺服器不但符合 FIPS 140-3 Level 3 加密安全標準，更進一步配備了量子運算防禦技術，可望有效抵禦未來潛在的資安威脅，保障企業 AI 運算安全無虞。
值得一提的，HPE 亦高度重視節能與永續發展。透過 Direct Liquid Cooling（DLC）閉迴路水冷技術，有效提升冷卻效率、降低能源消耗；此外藉由 HPE Compute Ops Management SaaS 平台提供統一的監控與預測性洞察，實現能源使用與碳排放的可視化，協助企業即時掌握碳足跡狀態，呼應 ESG 永續發展目標。同時 HPE 也積極與 NVIDIA 合作，導入 NVLink 技術，並支援 Blackwell、GH200、GB200 等最新平台，強化硬體技術前瞻性與 AI 生態系整合力，以提升長期投資價值與系統延展性。
數位無限 AI-Stack 平台，重塑 GPU 調度與 AI 開發效率新高度
數位無限的 AI-Stack 平台，專為解決 GPU 資源使用率偏低與 AI 開發流程複雜等痛點所而設計。其蘊含深具亮點的「GPU切割與聚合」核心技術，能夠將單張 GPU 切分為多個虛擬單位、以支援多任務並行處理，同時也能聚合多張 GPU 以支援大型模型訓練及跨節點高效運算。得益於這項技術，能將 GPU 資源利用率從以往平均 20~30% 大幅提升至 90% 以上，整體運算效益提升逾三倍，有效釋放 AI 算力潛能。該平台亦提供多層次調度管理功能，支援 Kubernetes、多租戶、批次任務與容器鏡像管理，同時可依應用自訂硬體資源，涵蓋 NVIDIA H100、A100 與 AMD MI300 等主流 GPU 平台。
針對 AI 模型開發流程，AI-Stack 實現「一分鐘無碼部署 AI 訓練環境」目標，整合 Jupyter、PyTorch、TensorFlow、MLflow、Kubeflow 等主流工具，大幅降低 AI 團隊的開發門檻與環境建置時間。另結合角色導向設計，使得資料科學家能專注於模型研究，同時 IT 管理者也能輕鬆掌控 GPU 主機與節點配置審核與安全防護。
另一方面，AI-Stack 支援多種開源框架，並透過模型即服務（Model-as-a-Service, MaaS）模組，提供一鍵式部署與管理模型微服務的能力，加速 AI 模型從開發到商業應用落地的轉化進程。更重要的是，此平台支援跨節點分散式訓練（Elastic Training Service）功能，可依照訓練需求動態調整資源分配，有效突破傳統大規模 AI 模型訓練所面臨的資源瓶頸。
圖說: 未來 AI 的應用層面
共築生態系，打造一站式創新應用場景
HPE 與數位無限的深度整合，開創從硬體部署、AI 模型開發到商業化應用的一站式完整路徑。HPE 提供堅實的硬體基礎與資安節能架構，而數位無限則提供高效率的資源調度、開發環境與部署平台，藉由彼此的優勢互補，形塑強大的全棧 AI 解決方案。數位無限身為 HPE 與 NVIDIA AI 生態圈的重要夥伴，不僅曾參與 HPE 舉辦的 ProLiant Compute Gen12 發表會，更在 HPE 與 NVIDIA 共同主辦的 Private Cloud Conference 中分享 AI-Stack 平台如何優化 GPU 資源調度、簡化 AI 作業流程，充分展現技術落地的真實價值。
這項合作可望在多元應用場景中展現豐碩效益，譬如智慧客服、風險分析、數位模擬、個人化學習…等等領域，橫跨金融、製造、醫療、政府、教育等眾多垂直產業。透過雙方協作，可望幫助企業用戶大幅優化內部 AI 模型開發與部署、提升產線與報銷分類效率、建構跨品牌 GPU 算力池以增強創新研發能量，亦可協助學術機構打造全堆疊式大型語言模型學習平台。這不僅有助於企業高效運用 GPU 算力，更能透過精準資源監控與智能調度機制，有效降低營運成本與碳排放，順勢實踐 ESG 永續發展願景。
總括而言，HPE 與數位無限的強強聯手，不僅為企業 AI 旅程注入穩定、安全且極具彈性的 AI 算力支援，同時透過先進的軟體平台，全面釋放 GPU 運算潛能。這不僅是一次技術整合的創新，更是一場奠定 AI 應用發展基礎的轉型革命。隨著雙方攜手合作，勢將為臺灣企業開啟 AI 驅動的創新未來，也為 AI 基礎建設寫下嶄新篇章。
想了解更多 HPE 企業轉型方案及台灣 AI 應用服務嗎? 歡迎至敦新官網下載HPE AI生態圈推廣專刊。