HPE 推出搭載 AMD 技術的全新專用型解決方案，加速大型且複雜的 AI 模型訓練

原始報導，請點選此處

• 全新的 HPE ProLiant Compute XD685 支援八個 AMD Instinct™ MI325X 加速器和兩個 AMD EPYC™處理器，可提供最佳效能和靈活性，進而高效建置和訓練大型語言模型
• 此專用型解決方案提供氣冷和直接液冷兩種選項，可提高能源效率，並整合 HPE iLO 以實現安全管理
• HPE ProLiant Compute XD685 能滿足 AI 服務供應商以及新興的大型模型建構者（包括政府與大型商業客戶）之需求

台北訊－2024年10月22日－Hewlett Packard Enterprise（HPE）推出專為複雜的 AI 模型訓練任務所設計的 HPE ProLiant Compute XD685，搭載第五代 AMD EPYC™ 處理器及 AMD Instinct™ MI325X 加速器。此款經過最佳化的全新 HPE 系統能夠迅速部署高效能、安全且節能的 AI 叢集，以支援大型語言模型訓練、自然語言處理及多模態訓練等應用。

圖說：專為大型複雜 AI 模型訓練任務所設計的 HPE ProLiant Compute XD685。

AI 的潛力正迅速被開發，有望在勞動生產力、醫療保健、氣候科學等領域實現重大突破。為了充分發揮 AI 潛力，AI 服務供應商、政府機構和大型模型建構者需要靈活、高效能且能快速投入市場的解決方案。

「實現高效能的大型語言模型訓練，需要強大的擴充性、大規模的平行運算能力，以及獨特的服務，唯有 HPE 的高效能運算解決方案能夠滿足這些需求，」HPE 高效能運算與 AI 基礎架構解決方案部門資深副總裁暨總經理 Trish Damkroger 表示。「作為全球最強大、最節能系統的領導供應商，HPE 與 AMD 攜手合作，將這項創新技術擴展應用在新推出的 HPE ProLiant Compute XD685，以支援日益增長的 AI 模型建構者市場，並加速各產業在科學與工程領域的突破。」

「HPE ProLiant Compute XD685 搭載最新 AMD EPYC 處理器和 Instinct 加速器的強大組合，能協助客戶加快產品上市時程，並達成業界領先的 AI 效能和效率，」AMD 資料中心解決方案事業群執行副總裁暨總經理 Forrest Norrod 表示。「透過與 HPE 合作，我們持續提供靈活、高效能的解決方案，充分發揮 AI 效益，以因應日益增長的大型語言模型訓練需求，並推動產業的創新競爭力。」

解決方案的速度與高靈活性可提升 AI 競爭優勢

HPE ProLiant Compute XD685 採用 HPE 全新設計的模組化機箱，為大型 AI 模型訓練及調校專案提供快速的解決方案。這款輕巧且模組化的 5U 機箱不僅可縮短解決方案的上市時程，還具備高度靈活性，可支援各種 GPU、CPU、組件、軟體及冷卻技術。此外，HPE ProLiant Compute XD685 結合了 HPE 數十年的直接液冷技術專長以及 HPE iLO 的安全創新技術，打造出高效能、永續且安全的解決方案。

• 使用更少的 GPU 運行最大的 AI 模型：採用 AMD CDNA™ 3 架構的 AMD Instinct™ MI325X 加速器能夠為訓練和推論任務提供頂尖的 AI 效能與效率。MI325X 加速器配備業界領先的 HBM3E 記憶體容量以及每秒 6TB 的記憶體頻寬，能最佳化效能並降低總擁有成本（TCO）。
• 透過選配直接液冷提高效率：HPE 在部署全球最大液冷 IT 環境擁有數十年的專業知識和市場領導地位。利用直接液冷技術可協助企業因應不斷增長的電力需求，達成永續發展目標，同時降低營運成本。
• 加速部署與運行：HPE Services 提供靈活且可客製化的全方位服務，能在全球各地安裝和部署大型 AI 叢集，同時確保運行的穩定性和卓越效能。透過在工廠內建置、整合、驗證、全面測試和客製化解決方案等專業服務，加速現場部署進程。
• 防範與日俱增的安全威脅：透過 HPE iLO 安全管理 HPE ProLiant Compute XD685 系統，提供順暢的管理體驗，並內建業界領先的創新安全功能，其從供應鏈端即植根於晶片中。
• 最佳化機櫃密度：HPE 設計的 5U 伺服器機箱使用每機櫃 8 個節點的緊湊配置，以最大化 8 路 GPU 系統的機櫃密度。HPE ProLiant Compute XD685 支援八個 AMD Instinct™ MI325X 或 AMD Instinct™ MI300X 加速器，搭載兩顆最新的 AMD EPYC™ 9005 系列處理器，並可選擇氣冷或直接液冷方案。  
• 簡化大型 AI 叢集的管理：HPE Performance Cluster Manager 是一款完全整合的集群系統管理軟體，能透過自動化設定，迅速從裸機啟動及佈署複雜系統，並利用詳細的即時監測資料、GPU 壓力測試等功能維持叢集正常運作。

此外，HPE 也宣布搭載 AMD EPYC 處理器的 HPE ProLiant 伺服器已創下48項世界紀錄，其中30項為搭載AMD EPYC 9005系列處理器之HPE ProLiant Gen11伺服器創下的全新世界紀錄。這些新紀錄包括運行企業工作負載時的頂尖效能與能源效率。

上市時程

HPE ProLiant Compute XD685 現已可透過 HPE 訂購，並將於 2025 年第一季全面上市。

關於Hewlett Packard Enterprise

慧與科技公司（NYSE: HPE）是邊緣至雲端的領導廠商，幫助企業從資料中萃取出有用的分析資料，加速創造業務成效。數十年來，HPE 致力於打造創新未來與創新的生活與工作方式。憑著這些經驗，HPE 開發出獨特、開放式且智慧化的技術解決方案，包含雲端、運算、高效能運算與 AI、智慧邊緣、軟體、及儲存，並為雲端與邊緣提供一致的使用經驗，幫助客戶開發及設計新商業模式、導入新方法，並提升操作效能。如需更多資訊，請至www.hpe.com。