HPE 全方位運算解決方案為企業 AI 賦能
HPE 企業 AI 轉型方案與台灣 AI 應用服務推廣
HPE Private Cloud AI & Eco-System in Taiwan
網際網路後最具影響力的數位革新,非 AI 科技莫屬。高速運算結合技術突破,生成式 AI 等應用成果大幅躍進,許多產業也開始在各類情境下透過 AI 帶來了無與倫比的競爭力,AI 時代儼然來臨。
因應企業 AI 轉型需求,HPE 提供全方位的企業 AI 解決方案:Private Cloud AI,包含適用於 AI 重度運算需求之硬體基礎架構、AI 開發與機器學習管理軟體,以及 GreenLake 服務提供之 AI 雲端資源與企業導入之整合顧問服務。除了 HPE 全方位與軟硬多元的 AI 配套方案,HPE 亦與台灣在地 AI 產業結盟,推出各式兼顧本地需求與全球化競爭力之 AI 應用服務,專業賦能,順利達標產業轉型。
NVIDIA AI Computing by HPE
HPE Private Cloud AI
HPE Private Cloud AI 打造台灣極致 AI 生態系
HPE Private Cloud AI 能為企業與組織提供全方位的 AI 方案:
- AI 模型與 LLM 應用服務:
HPE 組織全球各地與台灣在地的 AI 服務整合業者 (ISV),提供各類 AI 應用服務如智慧客服、智慧製造等應用服務。在台灣的 AI 業者將能就近提供技術支援與應用服務建置。
- AI 服務最佳化:
HPE 協助提供 AI 整合顧問服務,將 AI 系統營運環境依企業所需調整至最佳狀態之服務,藉以打造出以 AI 為導向之商業服務。
- AI 軟體:
HPE 提供 AI Essentials 與 HPE Data Lakehouse 等 AI 開發輔助工具,並結合 NVIDIA AI Enterprise 雲端導
向的 AI 軟體服務,提供企業於建立 AI 應用系統的開發生命週期中的各個環節,提供對應且全面之輔助管理系統,包含 AI 模型專案管理、AI 資料訓練管理等功能。
- AI 就緒之硬體架構:
HPE Cray XD670、HPE ProLiant Compute XD 680、HPE Pro Liant Compute XD 685、H PE ProLiant DL380a、HPE ProLiant DL384 等機架式伺服器可提供 AI 運算所需之 GPU 等龐大運算資源,並有完整資料儲存與管理方案因應資料池所需。
- HPE GreenLake 服務:
包含硬體基礎架構、軟體授權,以及整合維護服務等,HPE GreenLake 服務均能提供企業以更彈性的資源規劃組織強大的 AI 應用。
- 技術規劃與諮詢顧問服務:
HPE 匯集 IT 軟硬體整合技術與各類產業營運,為有意導入 AI 應用之企業提供前期評估、中期整合到後續維護等技術與商業營運等知識服務
HPE 運算技術滿足 AI 發展三階段:訓練、微調與推論
AI 應用從發展到導入時的發展分為三階段,包含建模訓練 (Training)、最佳化微調 (Fine Tuning),以及 AI 推論 (Inference) 等,不同階段企業所仰賴的運算資源亦有所差異,HPE AI 運算配套解決方案均有對應的設備滿足所需。
- 建模訓練 (Training):
建立全新的 AI 模型時需要最龐大的運算效能,根據模型複雜度花費時間從數周到數小時之間,也是 AI 三階段中需投入最多資源的,如氣象、基因、LLM 建模等,主要以 AI 服務供應商、需打造 AI 自主的應用服務等。
※ 參考機種:HPE Cray XD670、HPE ProLiant Compute XD680、HPE ProLiant Compute XD685 超級電腦架構
- 最佳化微調 (Fine Tuning):
導入 AI 應用時,需要將訓練完畢的 AI 模型再進行微調訓練,讓 AI 模型具備企業獨有的專業知識,根據模型規模花費數日到數分鐘等情況均有,當企業要導入、建置 AI 應用服務初期會需要反覆微調,當 AI 模型上線運行一段時間後,也可能根據最佳化需求再次微調。
※ 參考機種:HPE Cray XD670、HPE ProLiant Compute XD680、HPE ProLiant Compute XD685、 HPE Pro Liant Compute DL 380 a Gen12、HPE ProLiant DL380a Gen11、HPE ProLiant DL384 Gen12
- AI 推論 (Inference):
AI 模型訓練完畢、佈建應用服務後,AI 作業時也需要許多的運算資源來提供日常推論運算,為了能在第一線充分發揮效益而要求系統低延遲,通常處理時間以微秒到秒級來計算,例如智慧製造、智慧客服或生成式 AI 等系統後端運算等。
※ 參考機種: HPE ProLiant DL380a Gen11、HPE ProLiant DL384 Gen12、其他 HPE ProLiant 系列伺服器
打造 AI 所需的 IT 環境,HPE 不僅有享譽全球口碑的運算方案,也有業界市占領先的儲存解決方案,如 HPE GreenLake DSCC 等提供高速運算架構下絕佳的資料池與存儲等方案。軟體領域,HPE 不僅提供 AI Essentials 與 HPE Data Lakehouse 等 AI 開發輔助工具,同時也與 NVIDIA 合作,提供 NVIDIA AI Enterprise 之 AI 軟體雲端服務,協助 AI 專案開發中資料管理、專案或模型管理等工作更加靈活有序。
支援 NVIDIA NVLink 與 Intel XeLink 互連技術
投入 AI 開發的領域,GPU 效能在 AI 建模與推論等任務可說是最重要的資源,不論是強化資料串連或增加 PCIe 介面卡的安裝密度,均有助於提升基礎架構的運算能力。
HPE AI 運算配套解決方案支援 NVIDIA NVLink 與 Intel XeLink x2 Brideg 等 GPU 橋接互連技術,能大幅提升 AI 運算時資料 I/O 的吞吐量,充分發揮 GPU 的運算效能。
擁抱 AI 決策外的專業⽀援
AI 之勢,銳不可擋,轉型將成為企業前進下個世代的通行證。
HPE 提供之 AI as a Service 全方位服務,從伺服器運算、資料整合、AI 模型訓練,到 AI 應用落地服務應有盡有,HPE 能與專業團隊提供一條龍服務,或依據企業需其彈性調整,專業賦能,順利協助台灣產業完成 AI 轉型。
下載 全本的 ”HPE 企業 AI 轉型方案與台灣 AI 應用服務推廣專刊",內容包含 :
- HPE AI 架構與相關方案
- HPE AI Computing 方案概述與產品介紹 - ProLiant 系列
- HPE AI Computing 方案概述與產品介紹 - Cray 系列
- HPE Storage 方案介紹
- HPE LLM Appliance 全方位 AI 完整服務方案
- AI Eco-System 台灣合作廠商的方案
更多客戶關於 打造台灣極致 AI 生態系,可以參考 : https://hpeai.ai/
想了解更多 HPE AI 專案的服務或相關資訊,歡迎參考以下連結:
- NVIDIA AI Computing by HPE:https://www.hpe.com/tw/en/solutions/artificial-intelligence/nvidia-collaboration.html
- HPE Private Cloud AI 方案:https://www.hpe.com/tw/en/private-cloud-ai.html
- HPE AI 方案:https://www.hpe.com/us/en/solutions/ai-artificial-intelligence.html
- HPE 運算解決方案:https://www.hpe.com/us/en/hpe-proliant-servers.html
- HPE 超級電腦方案:https://www.hpe.com/tw/en/compute/hpc/supercomputing/cray-exascale-supercomputer.html
- HPE GreenLake 服務方案:https://www.hpe.com/us/en/greenlake.html