敦新科技協同菁智科技集結 HPE、數位無限，建置東海 LLM 校園學習平台
HPE ProLiant DL385 Gen11 伺服器建立的 LLM 學習平台，促進東海大學教學資源的有效配置和學校的教育創新
2025-03-06 發表
隨著 AI (人工智慧) 技術在全球引領教育新革命，近年來凝聚出以「AI 東海，生成未來」為全校教育共識的東海大學，借助 HPE 慧與科技強大的 AI 高效能伺服器及 AI 深度學習解決方案，於 2025 年 3 月 6 日共同發表打造全台首個全堆疊式 (full-stack) 大型語言模型 (LLM) 校園學習平台，平台運作半年來，已誕生 2 組具商業價值的作品。當天 LLM 校園學習平台正式啟航儀式，邀請台中市政府副市長鄭照新、東海大學校長張國恩、東海大學董事陳錦生、東海大學學術發展文教基金會副董事長李基正、HPE 台灣暨香港董事長王嘉昇、敦新科技總經理鄭天皓，等多位重量級嘉賓蒞臨現場，共同見證此一台灣 AI 教育的重要里程碑。
LLM 校園學習平台正式啟航儀式
「此次與 HPE 的合作使東海大學在科技教育領域邁出了重要一步，可望吸引更多的優秀師生，並增強學校的競爭力，」東海大學校長張國恩表示。「對於學生而言，我們期待在 AI 技術的輔助下，幫助學生更能適應未來的職場挑戰，掌握關鍵技能，並在各自的領域中有所突破。」
東海大學是全國最早提供全校師生完整 3D 博雅雲架構和功能的大學。該校在推動 AI 技術引入教育體系的過程中，發現一般的 AI 教學存在著應用層次、算力資源及實作場景等三大斷層，包括產業需求已從「工具使用」升級到「模型創造」，學校教學仍停留於網頁介面或 API 呼叫階段；企業級 LLM 開發需高達 100GB 級的 GPU 叢集，然而大多數大專院校僅能提供單卡教學環境；以及產業問題需整合領域知識微調模型，而現行課堂卻缺乏跨領域資料庫及部署架構。
為此，東海大學攜手 HPE 等科技巨頭之頂尖技術團隊，並結合敦新科技的系統整合專業，打造「從晶片到應用」的全堆疊式 LLM 學習平台。「HPE 在伺服器和資料中心解決方案上有著豐富的經驗和技術積累，其伺服器的強大處理能力和穩定性，能夠支援 LLM 運行所需的大量運算資源，」圖書暨資訊處楊朝棟圖資長指出。「建構如此先進的 AI 伺服器環境之後，東海的學生已自行建立 AI Agent 並微調 LLM 模型，現已應用於本地端 AI 護理師助理系統 (PrivNurse AI) 與高可讀性心臟超音波報告生成系統，解決了醫療文本摘要生成過程中的數據隱私與效能問題，利用監督式微調與量化技術，實現病歷摘要生成與關鍵字醒目配對的雙模型推理系統。在保護數據隱私的同時，該系統能夠高效處理大量醫療文本；未來，學生可以自行建立更多 LLM 應用。」
此一創新平台採用混合雲架構，配置多台 HPE ProLiant DL385 Gen11 伺服器，並搭配東海大學於 2024 年領先全國導入 CPU+NPU 且內含先進 GPU 運算設備的「玉釵 AI NB 教室」進行教學。除了對資訊與非資訊專業科系學生都有相對應的課程之外，也從產業面導入邊緣運算方案，例如讓學生微調的繁體中文醫療 LLM，能直接部署到合作醫院診間。
專為 AI、ML 和大數據分析而開發的 HPE ProLiant DL385 伺服器
HPE ProLiant DL385 Gen11 伺服器是一款高效能的 2U 伺服器，專為處理複雜的運算和資料儲存需求而設計，特別適合 AI、機器學習 (ML) 和大數據分析等工作負載。同時，HPE 還提供多層次的技術支援、AI 預測分析和自動化問題診斷工具，因此能夠幫助東海學生在較短的時間內完成複雜的運算任務，並藉由伺服器的穩定性大幅減少系統故障的情況，確保研究活動的持續性。
在雙方緊密的合作下，除了 LLM 學習平台的效能獲得提升，也促進了教學資源的有效配置和學校的教育創新，使得此一平台運作半年來，即誕生了 2 組具商業價值的作品：其一由圖資處與學生共同開發，整合「檢索增強生成」(Retrieval-Augmented Generation, RAG) 架構的課程學習助教，以及其二由學生開發協助將醫囑轉換為護理紀錄的醫療助理系統；這些創新成果充分展現了東海學生的實力與 LLM 學習平台的潛力。未來，東海大學計劃進一步優化系統，並將基於 LLM 的聊天機器人開放校外使用，讓社會大眾共同體驗先進的 AI 科技，並善盡東海大學的社會責任和影響力。
「HPE 很榮幸能與東海大學合作，提升學生在 AI 的跨域理論、應用學習能力，並為教師提供創新工具以提高教學效率，」 HPE 台灣暨香港董事長王嘉昇指出。「我們正積極將更多 AI 工具整合到教育和研究的流程中，並致力於讓 AI 運用到智慧校園、教學資源管理等更廣泛的應用場景，加速推動教育科技的 AI 數位轉型和發展。」
而促成此次雙邊合作的 HPE AI 伺服器代理商敦新科技，與菁智在多次與東海大學討論的過程，藉由策略規劃 HPE 高效能 AI伺服器與數位無限 AI-STACK GPU 管理產品的整體搭配，滿足東海大學在 AI 教育和校園內部運行所需的大量運算資源。「敦新科技不但為東海大學學生提供了先進的技術平台，滿足東海大學在 AI 教育和校園內部運行所需的大量運算資源，也促進了東海大學在 AI 領域的研究發展」敦新科技總經理鄭天皓表示。
同時指出，敦新科技代理的產品面向很廣，從各面向資安、AI 高速運算至 SAS AI 數據分析工具都能加強提升學生的實務技能，透過對學生學習數據的分析，幫助教育工作者制定更有效的教學策略和資源配置；這些資源將涵蓋 AI 的基礎知識、工具使用以及實際案例分析，以提升參與者的思維質量和實踐能力。
敦新科技協同菁智科技集結 HPE、數位無限，建置東海 LLM 校園學習平台
積極開創 AI 學習環境，共創 AI 教育新篇章
東海大學與 HPE 的合作，不僅樹立 AI 教育的新標竿，更為台灣 AI 產學合作開創新的里程碑。雙方藉由強大的科技支援與教育創新，將能持續推動台灣在 AI 人才培育，實現知識轉化，並促進學術界與產業界的深度交流，為台灣科技教育寫下嶄新篇章。
關於東海大學
東海大學自西元1955年創校，座落於台中市西屯區大肚山上，人文薈萃，學風開明，並擁有優美校園。歷任校長除延續東海創校的基督教精神，貫徹「全人教育」辦學特色外，更積極推動教育、學術和服務三方面的發展，深化辦學理念，也就是培養一個能充分因應未來挑戰的終身學習者。期讓所有東海人不僅擁有專業能力，具備獨立思考、解決問題以及溝通協調的能力，並且成為自信負責而富人文素養、品操端正與社會關懷的「理想畢業生」。也因此，東海大學於各項評鑑及企業最愛畢業生調查中名列前茅，且屢獲教育部評選為私立大學校院整體校務發展各項審查項目較優學校。
關於Hewlett Packard Enterprise
慧與科技公司（NYSE: HPE）是邊緣至雲端的領導廠商，幫助企業從資料中萃取出有用的分析資料，加速創造業務成效。數十年來，HPE致力於打造創新未來與創新的生活與工作方式。憑著這些經驗，HPE開發出獨特、開放式且智慧化的技術解決方案，包含雲端、運算、高效能運算與AI、智慧邊緣、軟體、及儲存，並為雲端與邊緣提供一致的使用經驗，幫助客戶開發及設計新商業模式、導入新方法，並提升操作效能。如需更多資訊，請至www.hpe.com。
關於敦新科技
敦新科技為HPE伺服器及儲存設備的專業代理商，提供IT投資解決方案幫助客戶轉型數位化業務，協助HPE經銷夥伴專業銷售，凝聚從基礎架構建置到儲存設備，以及資料安全到專業服務的全面銷售能力。最新各種機種及HPE專業服務，歡迎洽詢HPE事業部: 02-8978-5386，或造訪: www.dawningtech.com.tw。