以 GPU 算力治理為核心數位無限 AI-Stack 助攻企業落地 AI 應用
數位無限執行長陳文裕表示,該公司透過功能強大的 AI-Stack 與專業服務,協助客戶快速、精準、輕鬆的配置運算資源,
讓 GPU 算力的應用效益最大化。數位無限
發布時間:2025/06/12
生成式 AI 術普及加速,導入 AI 應用成為企業推動數位轉型的重要課題。不過從概念驗證到實際部署,過程中仍存在諸多技術與管理障礙。數位無限(Infinitix)執行長陳文裕指出,運算基礎設施對企業的重要性愈來愈高,如何有效運用 GPU 資源,將是 AI 應用能否順利落地的關鍵因素。
突破 AI 導入瓶頸 AI-Stack 讓 GPU 算力資源管理效率最佳化
陳文裕進一步表示,企業在 AI 導入過程中會面臨兩大核心挑戰,首先是「該用 AI 做什麼?」,目前多數企業仍缺乏明確應用命題,不易從既有業務需求中抽象出適合的 AI 應用;其次是「該如何將 AI 導入企業內部?」,在找到應用方向後,仍須克服設備部署、算力資源配置、系統整合等技術門檻,數位無限的AI-Stack解決方案讓數據完整且透明,並藉由簡易直覺的友善介面快速配置,讓 GPU 運算資源的使用效益最佳化。
AI-Stack 的核心功能包含三大面向。首先是「GPU虛擬化切割」技術,此功能可依據工作負載需求,將單張 GPU 切割成 2GB、4GB、10GB 等不同規格的多個子單元,讓不同任務能即時共享運算資源,將一般系統的 30% GPU 利用率提升至 90%。
其次是「資源動態調度與策略彈性配置」,系統能自動排程工作任務與資源分配,例如將推論作業集中於白天執行,訓練作業則安排在夜間進行,充分利用不同時段的資源需求差異。
第三項功能是跨節點 GPU 調度與分散式運算支援,可將多台 GPU 整合為統一的資源池,支援高效能分散式訓練或高效能運算,任務完成後再自動釋放資源,避免資源閒置。
AI-Stack 採企業內部部署模式,透過直觀的圖形化介面,簡化模型資源規格選擇與部署流程。系統提供即時統計報表、成本分攤機制、詳細使用報告等功能,協助企業精準控管AI資源使用狀況,支援預算規劃與聲請作業。
此外,系統可支援尖峰與離峰時段的自動排程機制,避免資源浪費,同時確保重要業務在高峰時段獲得充足的運算資源。
橫跨多元產業場景 AI-Stack 全面提升 GPU 應用效益
對於 AI-Stack 的應用範圍,陳文裕指出,需要 GPU 進行 AI 研發或部署的產業,包括半導體全產業鏈(IC 設計、製造、封測、PCB、終端設備)、醫療院所、金融金控、製造業、電子業、能源電力,以及政府與研究機構。應用模式則可分為兩大類型。
一般自用型企業,可將 AI-Stack 作為內部 AI 開發與推論平台;算力中心型業者則可藉此建立 GaaS(GPU as a service)平台,透過 Token 計費、應用市集等模式進行商業化營運。
目前 AI-Stack 已有多起具體應用案例,其中位於東南亞的電信業者導入 AI-Stack 後,成功轉型為 AI 運算服務平台,提供自助租用、Token 計價、應用市集等服務;IC 設計業者善用 AI-Stack 的 GPU 切割功能,用於模型訓練與輕量化部署驗證;金融機構則利用平台,加快協助 AI 模型在不同開發階段的部署速度,確保環境一致性,降低測試失敗機率與版本漂移問題。
陳文裕接著表示,在技術與市場兩大面向數位無限都具備獨特優勢。技術面上,該公司長期專注資源管理與虛擬化技術,具備 GPU 切割與即時調度的核心能力;市場面上,則熟悉系統整合商通路運作,與台灣、日本、馬來西亞、泰國等地代理商建立長期合作關係。
此外,數位無限也於 2020 年獲得 NVIDIA Advisor Solution Partner 資格認證,成為台灣唯一獲此認證的 AI 軟體公司。這項認證不僅提升了技術公信力,也協助該公司拓展日本、南韓與其他海外 NVIDIA 代理商合作,從而擴大國際市場能見度。
AI 基礎設施關鍵推手 數位無限落實「Beyond AI, to Infinity」理念
對於未來規劃,陳文裕提到數位無限的角色定位已從 GPU 管理平台,逐步轉型為全方位 AI 基礎設施平台廠商。他強調 AI 時代對於完整基礎設施的需求,不再僅聚焦於 GPU 硬體,而是建構涵蓋系統、網路、儲存、資訊安全及管理的完整架構。
數位無限透過與當地外伺服器品牌廠商、OEM 及 ODM 製造商建立緊密合作關係,形成軟硬體整合銷售的生態圈,並將自身定位為軟硬體橋接的關鍵中介者,讓企業可透過 AI-Stack 的軟體功能,有效調度硬體資源。
目前 AI-Stack 已歷經兩大版本迭代,GPU 切割技術更發展至第三代。產品線採模組化策略,以 IX 代號系統發展出 IXGPU、IXINFRA、IXLLM 等功能模組,滿足企業、資料中心等不同應用場景需求。
未來希望以 AI 基礎設施關鍵平台供應商角色,協助客戶快速、精準、有效率的管理基礎設施,並加速 AI 應用部署,創造 AI 的實質商業價值。
陳文裕最後表示,數位無限的核心理念是「Beyond AI, to Infinity」。未來,將持續以產品與技術服務為核心,協助企業快速跨越 AI 導入門檻,實現 AI 價值落地,成為 AI 時代基礎設施轉型的重要推手。
資料來源:DIGITIMES