為AI服務器與數據中心帶來容量/帶寬/速度三合一升級
全新架構以PCIe Gen5帶寬突破計算僵局,E3.S 2T規格為系統擴充增添彈性
深圳2024年9月5日 /美通社/ -- AI服務器應用持續升溫,相關設備的硬件規格需求也隨之提升,使得業界過往普遍采用的容量與帶寬標準,已無法完整滿足現今龐大AI計算所需的效能。呼應產業現狀,全球AI解決方案與工業級內存領導品牌宜鼎國際 (Innodisk)領先推出「CXL內存模塊」,透過全新CXL協議,提供單條64GB大容量及高達32GB/s的帶寬。宜鼎CXL內存采用E3.S 2T規格,為系統提供更彈性且成本合理的擴充方式,讓服務器可直上AI計算所需的硬件規格。除了提升服務器容量與帶寬外,更透過CXL獨創的「共享內存資源」特性及PCIe接口,打破傳統內存信道的帶寬限制,讓服務器效能可隨著AI發展與時俱進。
宜鼎采用CXL全新架構:解鎖對內存資源的制約,突破服務器三大計算瓶頸
TrendForce研調預估,在大型云端業者及品牌廠對AI服務器的持續投資下,今年AI服務器出貨量將上修至167萬臺、產值占整體服務器市場比重高達65%。同時,對服務器效能至關重要的CPU亦迅速演進,然而盡管CPU的計算能力提升,卻受限于傳統內存信道對帶寬的限制,讓CPU無法完整獲得內存的計算資源,因而難以發揮最大硬件效能。此情形遍布在全球數以萬計的服務器上,尤其對擁有大量服務器的數據中心而言,影響更為顯著。
宜鼎積極投入創新,領先推出采用全新CXL協議的內存模塊,以改善上述情形、并解決服務器系統現存的三大瓶頸。包括:透過采用簡化的協議及高兼容性的PCIe 5.0接口,改善「系統組件之間因協議不同導致的傳輸延遲」;透過CXL的內存池 (Memory pooling )技術,讓同一層架多臺服務器的CPU、加速器等操作數件共享內存資源,減少資源冗余,解決「內存利用率低」的狀況。
此外,有別于目前主流DDR架構,CXL底層技術采用PCIe接口,使其可透過獨立通道,與服務器內既有的DDR5內存并存,讓CPU在現有的DIMM以外,可再輕松從PCIe接口獲得CXL內存模塊帶來的額外帶寬與容量,有效解決目前「CPU可用內存帶寬受限」的痛點,發揮加乘效益。
宜鼎CXL內存模塊,以32GB/s帶寬、單條64GB大容量為AI與機器學習助力
宜鼎CXL內存模塊采用 EDSFF標準下的E3.S 2T尺寸規格,可靈活抽換、調配容量,讓服務器享有高擴充彈性。此外,宜鼎CXL內存具備單條64GB的存取容量;若裝載4個CXL內存模塊,即可為原本配備8條128GB內存的服務器增加30%內存容量及40%帶寬,輕松將其擴充至AI計算所需的1.2TB以上容量。宜鼎CXL內存外觀設計采用鋁合金外殼,正反兩面分別為霧面的銀、黑配色,不僅沿襲宜鼎專注工控的沉穩質感、更揉合CXL代表的創新與革命性特質。
宜鼎CXL內存支持CXL 2.0規范、采用Type 3傳輸協議,并透過PCIe Gen5 x8接口,提供高達32GB/s的傳輸帶寬。因此非常適用于加速AI與機器學習、大規模分析、圖形數據庫等應用。
宜鼎國際工控DRAM事業處總經理張偉民表示:「宜鼎持續致力為AI賦能,也因而愿意挹注大量研發資源提升系統計算效能,領先全球模塊廠商,成為率先投入開發并量產CXL內存的品牌之一。CXL內存除了能大幅提升服務器帶寬與存取容量,更具備廣泛的支持性,可幫助宜鼎的服務器與數據中心客戶,在不須大幅改動硬件的前提下,擴充既有系統、達到近乎無痛的效能升級。目前CXL協議已在各國際大廠協力推動下持續蓬勃,我們也相當看好由CXL引領的計算趨勢,將可讓服務器端的AI應用推升至下個高峰。」
CXL目前在業界仍屬新興技術,透過宜鼎細致而全方位的導入與技術支持服務,可讓客戶在面對全新架構時,安心擁抱升級。同時,宜鼎具備多年工控與AI領域客制經驗、以及從各代DDR到CXL的豐富產品規格,可提供高彈性、為各種終端環境量身打造的內存配置與解決方案。
宜鼎CXL內存模塊預計于2025年初正式出貨,為云端計算、大型數據中心、網絡通訊、邊緣計算等領域賦能。更多產品相關信息,請瀏覽:https://innodisk.cc/GDFQ9a。
關于宜鼎及旗下解決方案,更多信息請參考:http://www.myinnodisk.cn
宜鼎集團AIoT布局,請參考:https://www.innodisk.com/group_intro/tw.html