HPE 攜手 NVIDIA 提供企業級的全堆疊生成式 AI 解決方案
Hewlett Packard Enterprise(NYSE: HPE)宣佈與 NVIDIA 擴大策略合作,共同打造適用於生成式人工智慧(GenAI)的企業運算解決方案。透過此共同開發並預先配置的 AI 調校和推論解決方案,各規模企業皆能加速使用私有資料自訂基礎模型,並在邊緣至雲端的任何地方部署生產力應用程式。其採用 HPE 和 NVIDIA 的全堆疊 AI 調校和推論解決方案可以消除開發和部署生成式人工智慧 (GenAI) 基礎架構帶來的複雜性。
企業為對話式搜尋、業務流程自動化和內容創作等使用案例開發和部署生成式 AI 模型時,需要能夠迅速在業務所需地方部署的軟體和基礎架構堆疊。這個專為生成式 AI 打造的全新企業運算解決方案象徵 HPE 和 NVIDIA 擴展其合作關係,共同為客戶提供全堆疊、開箱即用的 AI 解決方案。其整合 HPE 機器學習開發環境(HPE Machine Learning Development Environment Software)、HPE Ezmeral 軟體、HPE ProLiant 運算設備、HPE Cray 超級電腦與 NVIDIA AI Enterprise 軟體套件,包含 NVIDIA NeMo 架構。
「HPE 和 NVIDIA 在市場上具有獨特的優勢,藉由此合作,能為企業組織提供完整的 AI 原生解決方案,透過一系列預先配置的解決方案,大幅簡化開發和部署 AI 模型的流程,」HPE 總裁暨執行長 Antonio Neri 表示。「HPE 和 NVIDIA 的策略合作將有效降低客戶在利用 AI 進行業務轉型時所面臨的障礙。」
「生成式 AI 的時代正全速發展,企業無不爭相重塑公司業務,」NVIDIA 創辦人暨執行長 Jensen Huang 表示。「透過與 HPE 擴大合作,我們可以協助企業利用與業務資料連結的 AI 應用程式獲得前所未有的生產力,進而提供精準的支援、資訊化聊天機器人和語意檢索功能。」
利用專門打造的 AI 調校和推論解決方案提升 AI 即時性
此款專為生成式 AI 打造的企業運算解決方案是全新的 AI 調校和推論的資料中心解決方案,能為各規模企業提供理想的入門點,協助其透過開箱即用的解決方案迅速展開 AI 之旅。
透過此解決方案,企業可以使用預先訓練的基礎模型以及私有資料來創建生產力應用程式,例如 AI 聊天機器人。此外,檢索增強生成(RAG)工作流程也進一步提高應用程式的資料品質和準確性。
- 專為 AI 打造且最佳化:此解決方案採用機架等級的架構,並搭載市場領先的 HPE ProLiant 運算設備 DL380a、預先配置的 NVIDIA L40S GPU 與 NVIDIA BlueField-3 DPU,以及 NVIDIA Spectrum-X 乙太網路平台,為超大規模 AI 提供支援。此解決方案的規模可以微調一個 700 億參數的 Llama 2 模型,包括 16 台 HPE ProLiant DL380a 伺服器和 64 個 L40S GPU。
- HPE 的 AI 軟體:HPE 機器學習開發環境具有全新的生成式 AI 工作室功能,可以快速建置原型和測試模型。HPE Ezmeral 軟體則具有新的 GPU 感知(GPU-aware)功能,可以簡化部署和加速混合雲 AI 工作負載的資料準備。
- NVIDIA 的 AI 軟體:NVIDIA AI Enterprise 可以加速開發及部署生產力 AI 應用程式,並兼顧安全性、穩定性、易管理性和支援。其提供 NVIDIA NeMo 框架、防護工具組、資料統籌工具和預先訓練的模型,可協助簡化企業 GenAI 的流程。
HPE Services 助企業展開 AI 之旅
如今 HPE Services 提供諮詢、人才培訓和解決方案部署等廣泛的服務。全新的 AI 服務會引導客戶完成從 GenAI 和 LLM 的探索到執行的完整流程,讓客戶可以開發最佳的操作模型和混合雲資料策略,以建置、部署和擴展解決方案,進而創造革命性的成果。HPE 已在西班牙、美國、保加利亞、印度和突尼西亞開設新的全球人工智慧及資料卓越中心(Centers of Excellence)並支援這些全面性服務。
HPE 攜手 NVIDIA 提供加速 AI 訓練之全新整合方案
HPE 於 SC23 國際研討會上宣佈專為大型企業、研究機構和政府機構設計,並採用 NVIDIA 技術的全新整合方案。其能協助企業組織在 AI 生命週期的第一階段開發和訓練基礎模型。此專為生成式 AI 打造的小型化企業運算解決方案,適用專注於 AI 調校和推論的企業客戶。
加速 AI 模型開發和部署的全新 AI 原生架構和混合雲解決方案
HPE 已於 HPE Discover Barcelona 2023 發布全新的開放式全堆疊 AI 原生架構和新系列的 AI 原生與混合雲產品,以應用於機器學習開發、資料分析、AI 最佳化檔案儲存、AI 調校和推論以及專業服務。
上市時間
專為生成式 AI 打造的企業運算解決方案將於 2024 年第一季開放訂購。