北京2024年12月25日 /美通社/ -- 12月25日,浪潮信息與智源研究院達成戰略合作協議,雙方將緊密協作共建大模型多元算力開源創新生態,提升大模型創新研發的算力效率,降低大模型應用開發的算力門檻。目前,智源Triton算子庫FlagGems已正式接入浪潮信息的元腦企智EPAI企業大模型開發平臺,助力企業實現更快速、更廣泛、更高效的多元算力適配與使用。
人工智能的持續進步推動了算力多元化與模型多樣化,在為產業注入創新活力的同時,也帶來了較高的大模型應用開發技術門檻。元腦企智EPAI(Enterprise Platform of AI) 是浪潮信息為企業AI大模型落地應用打造的高效、易用、安全的端到端開發平臺,支持主流開源與閉源大模型的應用快速開發,可實現大模型應用在跨算力平臺上的無感遷移,降低多元、多模的適配與試錯成本。
FlagGems是由智源研究院于2024年6月推出的面向多元算力的開源大模型通用算子庫,在Triton生態開源開放的基礎上,面向多元算力,遵循統一的中間語言、統一的算子接口和統一的開源算子庫實現路徑,以大模型需求為導向,為多元算力提供開源、統一、高效的算子層生態接入方案。截止12月,FlagGems已提供超過130個大模型算子,是目前提供算子數量最多、覆蓋廣度最大的開源算子庫。
此次,智源研究院攜手浪潮信息,將FlagGems算子庫與元腦企智EPAI內置的核心計算框架進行深度融合,旨在確保大模型應用開發能夠使用高性能、跨硬件、多框架兼容的算子集合,順利跨越各類硬件架構,滿足多種開發框架的需求。現在,基于元腦企智EPAI大模型開發平臺,企業可以利用針對大模型應用開發場景優化的先進算子集合,在多種算力平臺上高效構建、優化和執行復雜的行業應用算法。在復雜的訓練任務及實時性要求嚴苛的推理場景中,均能實現穩定且高效的運算性能。此外,企業也無需關心多元異構加速卡之間的軟硬件差異,真正實現大模型應用在跨算力平臺上的無縫開發與遷移。
算力產業在大模型技術趨勢的推動下飛速發展, 但硬件架構、指令集的差異及算子庫的獨立實現卻形成了生態藩籬,顯著提高了企業應用大模型的算力門檻,構建一個開源、統一、高效的多元算力系統生態顯得尤為迫切。
智源研究院副院長兼總工程師林詠華表示:"元腦企智 EPAI為企業提供從底層算力到上層應用的一站式支撐,而智源FlagGems提供了高性能、跨硬件、多框架兼容的大模型算子,二者如同精密的‘齒輪組',確保模型在各類硬件架構中順滑運轉,適配多種開發框架需求,讓主流大模型跨越硬件藩籬,無論是復雜的訓練任務,還是實時性要求嚴苛的推理場景,均能穩定、高效運行,性能表現媲美原生模型。"
浪潮信息高級副總裁劉軍表示:"在多元多模的產業格局下,AI的產業化落地本質上是推動人工智能與百行千業的深度融合,浪潮信息元腦企智EPAI企業大模型開發平臺與智源通用算子庫FlagGems的全面對接,是雙方解決生態離散,化解大模型產業化落地的算力轉化和開發復雜等高門檻難題的重要舉措,將為AI應用創新注入更強大、多元的算力支持,助力構建協同共生、開放共贏的多元算力系統生態,充分釋放智能生產力。"
未來,浪潮信息將與智源研究院攜手并進,持續推進硬件開放與軟件開源, 以開源開放、多元多模激發創新活力,以多元算力系統生態加速創新落地,協力共建一個更加高效、靈活、開放的人工智能應用生態。