北京2023年10月17日 /美通社/ -- 日前，2023全球AI芯片峰會（GACS 2023）在深圳市舉行，AI芯片產業鏈頂尖企業、專家學者齊聚，圍繞生成式AI與大模型算力需求、AI芯片高效落地等產業議題進行研討分享。
面向大模型時代的計算需求，算力創新已不僅是單個處理器微架構和芯片工藝的突破，而需要產業攜手進行軟硬件全棧系統架構全面創新。當前各類AI芯片創新仍面臨存儲墻、功耗墻等架構痼疾，隨著開放的通用指令架構、互聯總線、AI加速器、開源的操作系統、模型框架、工具鏈和軟件紛紛涌現，開放開源的算力系統創新，已經成為實現AI芯片轉化為高效算力的二級引擎。
會上，浪潮信息分享了在開放加速計算系統領域的最新成果《開放加速規范AI服務器設計指南》，通過系統平臺層面的技術創新，攜手產業上下游加速生成式AI算力產業發展。
大模型推動算力產業步入系統級創新時代
隨著制程工藝逼近天花板，AI芯片正迎來架構創新的黃金時代，諸多創新者正通過越來越廣泛的創新思路來繞過摩爾定律瀕臨極限的瓶頸，圍繞架構創新，AI芯片產業正從早期的百花齊放，向更深更多維層面發展。
與此同時，參數量高達數千億的大模型創新往往需要在成百上千的AI服務器組成的平臺上進行訓練。面向AIGC的算力能力考量的不僅僅是單一芯片、或者是單一服務器，而是包含計算、存儲、網絡設備，軟件、框架、模型組件，機柜、制冷、供電基礎設施等在內的一體化高度集成的智算集群。
因此，要將AI芯片真正轉化為大模型算力，需要產業鏈上下游攜手從規模化算力部署的角度進行系統級創新，統籌考慮大模型訓練需求特點，設計構建算力系統，以實現全局最優的性能、能效或TCO指標。
開放加速設計指南，打通從芯片到大模型的算力橋梁
2019年，開放計算組織OCP面向大模型訓練發布了開放加速計算（OAI）技術標準，旨在促進上下游協同，降低產業創新成本和周期。開放加速計算（OAI）系統架構具備更高的散熱和互聯能力，可以承載具有更高算力的芯片，同時具備非常強的跨節點擴展能力。因為天然適用于大規模深度學習神經網絡,已經在全球范圍內得到芯片、系統及應用廠商的廣泛參與支持。
大模型訓練對開放加速計算系統的總功耗、總線速率、電流密度的需求不斷提升，給系統設計帶來了巨大的挑戰。因此，浪潮信息基于系統研發和大模型工程實踐經驗，將從AI芯片到大模型算力系統所需完成的體系結構、信號完整性、散熱、可靠性、架構設計等大量系統性設計標準進行細化總結，發布了面向生成式AI場景的《開放加速規范AI服務器指南》（以下簡稱《指南》），提出四大設計原則、全棧設計方法，包括硬件設計參考、管理接口規范和性能測試標準。
《開放加速規范AI服務器指南》全棧設計方法
《開放加速規范AI服務器指南》統籌考慮大模型分布式訓練對于計算、網絡和存儲的需求特點，提供了從節點層到集群層的AI芯片應用部署全棧設計參考。包括各項硬件規范、電氣規范、時序規范，并提供管理、故障診斷和網絡拓撲設計等軟硬協同參考，旨在通過節點層/集群層多維協同設計確保AI服務器節點和服務器集群以超大規模集群互連的大模型訓練能力。
基于板端QSFP-DD的跨節點互連拓撲
由于架構復雜度高、芯片種類多、高速信號多、系統功耗大等特點，異構加速計算節點常面臨故障率高的問題。因此，《指南》提供了詳細的系統測試指導，對結構、散熱、壓力、穩定性、軟件兼容性等方面的測試要點進行了全面梳理，幫助用戶最大程度降低系統生產、部署、運行過程中的故障風險，提高系統穩定性，減少斷點對訓練持續性的影響。
OAM互連信號損耗要求
不同于通用計算系統，面向生成式AI的加速計算系統具有軟硬件強耦合特性。為了提高開放加速計算系統的算力可用性，《指南》給出了八類AI主流業務和三類AIGC大模型基準測評和調優方法，以確保開放加速計算系統能夠有效支撐當前主流大模型的創新應用。
AI芯片廠商可以基于《指南》快速將符合開放加速規范的AI芯片落地成高可用高可靠高性能的大模型算力系統，提高系統適配和集群部署效率，減少芯片合作伙伴在系統層面的研發成本投入，加速生成式AI算力產業的創新步伐。
全棧協同，高效釋放大模型創新生產力
目前，浪潮信息已經基于開放加速規范發布了三代AI服務器產品，和10余家芯片伙伴實現了多元AI計算產品的創新研發。多元算力產品方案得到了眾多用戶的認可，已經在多個智算中心應用落地，成功支持GPT-2、源1.0及實驗室自研蛋白質結構預測等多個超大規模巨量模型的高效訓練。
同時，為進一步解決大模型算力的系統全棧問題、兼容適配問題、性能優化問題等，浪潮信息基于大模型自身實踐與服務客戶的專業經驗，推出OGAI大模型智算軟件棧，能夠為大模型業務提供AI算力系統環境部署、算力調度及開發管理的完整軟件棧和工具鏈，幫助更多企業順利跨越大模型研發應用門檻，充分釋放大模型算力價值。
作為全球領先的AI算力基礎設施供應商，浪潮信息將通過智算系統軟硬件高度協同進行持續創新，攜手產業伙伴加速AI算力繁榮發展并充分釋放算力生產力，推動實現"助百模，智千行"，加速生成式AI產業創新。
