HPE LLM Appliance 全方位 AI 完整服務方案
HPE 豎立 Gen AI 即服務產業標竿
結合 LLM 語言模型的生成式 AI 應用,預估未來產值將占所有 AI 應用中的第一名。
綜觀現階段主流的 AI 運用中,生成式 Gen AI 最受企業與產業人士青睞,殺手級應用的背後需樣賴 LLM 大語言模型的建置與訓練,針對 LLM 大語言模型建置與管理,HPE LLM Appliance 能提供企業導入、訓練出專屬的 LLM 模型,再搭配相關知識庫與人機互動平台,模型微調訓練後就能迅速理解、回應使用者的疑難雜症,或理解語意後協助生成需要的文件等工作,提升日常工作效率達數十倍之譜。
HPE LLM Appliance 服務完整涵蓋硬體、AI 模型與服務
HPE LLM Appliance 可支援的 LLM 大語言模型包含:
- SearchGPT 搜尋用生成預訓練轉換器:
可運用在檢索增強生成式技術 (RAG) 的問與答系統,如智慧客服等應用。
- SmartChat 智慧聊天模型:
基於 LLM 大語言模型所訓練而成的聊天機器人。
- Report System 簡報系統生成模型:
基於 LLM 大語言模型所訓練而成的簡報/文件產生器。
- Taiwan Specialize Foundation Model 台灣本地化語言模型:
可支援 GPT4、Gemini、Claude、Llama、Gemma、TAIDE、TMAM 等大語言模型,具備台灣中文語彙之 LLM,為台灣在地化 AI 應用提供更精準的模型。
HPE LLM Appliance 方案可涵蓋硬體平台,HPE 提供 AI 就緒的伺服器方案,針對企業所需的 LLM 規模與推演資料量,提供不同量級的運算能力與 GPU 模組,如同所有的數位服務專案,AI 應用從基礎硬體、模型建置到最後的應用推論,過程中不會只仰賴單一系統,而是從伺服器、網路、儲存、監控、營運管理到諮詢服務等, HPE LLM Appliance 所提供的服務,涵蓋了基礎運算系統與 LLM 語言模型的建置,幫助企業建置、布署生成式 AI 等應用,協助企業跨出 AI 轉型的第一步。
對應資料分析量,AI 分級滿足龐大運算力
AI 應用專案的規模,經常採用模型處理的資料量來計算,HPE LLM Appliance 根據算力所需區分為 4 種規模,並針對不同規模量身訂做給予對應的運算方案及 LLM 套餐:
HPE AI Appliance 建議的規格依循資料數據處理量來分級,若企業於導入 AI 服務時有超低延遲回應,或是處理的資料型態需整合更多 GPU 效能時,也都能根據實際情況將方案內搭配的伺服器設備升級,或是搭配其他 HPE ProLiant 系列的伺服器,若想確認規劃中的 AI 專案屬於何種 AI 規模,HPE 的專業團隊也能以豐富的產業整合經驗提供詳實的分析。
從 AI 模型的規模出發,企業能先以自身的應用環境切入,評估導入所需的算力,甚至是未來發展所需投入的 GPU 資源等,不論是一次到位或逐步漸進,HPE AI 服務方案都能跟上企業實際所需,不僅設備,台灣在地化的技術支援與本地產業習慣的服務模式都能支援,搭配 HPE GreenLake 服務模式,為企業帶來極具競爭力之 AI as a Service ─ AI 即服務轉型模式。
下載 全本的 ”HPE 企業 AI 轉型方案與台灣 AI 應用服務推廣專刊",內容包含 :
- HPE AI 架構與相關方案
- HPE AI Computing 方案概述與產品介紹 - ProLiant 系列
- HPE AI Computing 方案概述與產品介紹 - Cray 系列
- HPE Storage 方案介紹
- HPE LLM Appliance 全方位 AI 完整服務方案
- AI Eco-System 台灣合作廠商的方案
更多客戶關於 打造台灣極致 AI 生態系,可以參考 : https://hpeai.ai/
想了解更多 HPE AI 專案的服務或相關資訊,歡迎參考以下連結:
- NVIDIA AI Computing by HPE:https://www.hpe.com/tw/en/solutions/artificial-intelligence/nvidia-collaboration.html
- HPE Private Cloud AI 方案:https://www.hpe.com/tw/en/private-cloud-ai.html
- HPE AI 方案:https://www.hpe.com/us/en/solutions/ai-artificial-intelligence.html
- HPE 運算解決方案:https://www.hpe.com/us/en/hpe-proliant-servers.html
- HPE 超級電腦方案:https://www.hpe.com/tw/en/compute/hpc/supercomputing/cray-exascale-supercomputer.html
- HPE GreenLake 服務方案:https://www.hpe.com/us/en/greenlake.html