SMART Modular世迈科技致力擘建CXL生态系,助攻AI/ML、HPC创新应用 智能应用 影音
EVmember
Event

SMART Modular世迈科技致力擘建CXL生态系,助攻AI/ML、HPC创新应用

  • 陈其璐台北

SMART Modular(世迈科技)亚太区市场开发总监洪纲懋。世迈
SMART Modular(世迈科技)亚太区市场开发总监洪纲懋。世迈

随着数码转型浪潮席卷,驱使全球智能应用需求急遽飙升,连带让人工智能(AI)、高效能运算(HPC)蔚为显学。综观AI或HPC工作负载,皆涉及大量数据处理,需要仰赖丰沛的存储器资源加以支撑;惟碍于多数服务器只有8或12通道的存储器架构限制,恐使新兴应用发展出现瓶颈。

所幸在CXL国际联盟努力推动下,不仅催生CXL(Compute Express Link)产业共通标准,且在短短不到4年内迅速迭代更新,已为服务器厂开启机会之窗,有望借助CXL界面增加快取一致性存储器,进而营造存储器池化(Memory Pooling)利基,顺势突破设备容量效能、成本及延迟度等诸多传统限制。

全球专业存储器与储存解决方案的领导者SMART Modular(世迈科技)看准这个重大契机,领先推出全球首款XMM CXL 2.0(Compute Express Link 2.0)扩充存储器模块,期盼汇聚生态系夥件的力量,加速AI/ML及HPC等Memory-Driven应用的创新进程。

SMART Modular创立至今逾30年,致力开发中高端工业及企业级嵌入式存储器产品,包含DRAM存储器模块、SSD固态硬盘、混合式解决方案等;擅于提供高度定制化的产品设计能力、严谨可靠的测试服务及实时专业的技术支持,并与全球领导OEM客户紧密合作,从产品设计到上市,皆能提供高效可靠解决方案,满足各类工控产业与高成长应用的需求。

以合理成本,孕育经济型高速运算架构

SMART Modular亚太区市场开发总监洪纲懋表示,以市场主流的2路服务器而论,在现有CPU架构下,两颗CPU无法共享彼此的存储器,导致整体数据中心经常出现5~10%资源浪费。

此外,若将每台2路服务器的16根插槽布满64GB DRAM,总容量也只有2TB,对照于多数Memory-Driven应用所需要的4TB资源,尚有多达2TB缺口。按理说可透过两种方式解决,一是购置4路服务器,另一是改用128GB存储器,但可惜的是,无论走哪一条路,都会为用户带来巨大成本压力,因而滞碍难行。

在服务器部分,众所皆知4路机种要价不菲,较2路机种昂贵许多,令用户难以入手。若欲沿用价格相对亲民的2路服务器,只能考虑选用128GB存储器,但因此类高端RDIMM,需以3DS先进封装技术堆叠而成,属于高单价产品,相较于采用一般封装技术的64GB RDIMM,价差堪称悬殊;显见在128GB存储器配置模式下,势必大幅垫高总体成本,仍让用户望而却步。

SMART DDR5 XMM CXL模块的出现,可望使前述难题通通迎刃而解!洪纲懋说,一方面,CXL让服务器存储器互连共享,让总体资源有效运用、不再浪费。另一方面,用户只要采用Add-In Card的XMM CXL模块(提供4或8条扩充槽),即可在2路服务器、64GB RDIMM等平价基础上,满足4TB存储器配置需求,实现最具经济优势的Memory Pooling,消弭成本失控疑虑。

他进一步解释,可望受益于CXL的应用情境,不仅是大家熟知的AI/ML或HPC,其余包括云端服务、串流媒体、在线游戏、AR/VR、高频金融交易等亦可归类于Memory-Driven的众多应用,都将同蒙其利,足见CXL的想像空间至为宽广。

已针对E3.S、Add-In Card,推出两款CXL模块

不可讳言,欲达到真正的存储器池化,其实必须借助CXL 3.0,但预期要到明后年,相关ASIC才会就绪;那麽以现在今的CXL 2.0来看,有值得服务器厂抢先布局的诱因?

对此洪纲懋透露,目前已有合作夥伴发挥创意,透过CXL 2.0基础成功达到存储器池化。例如有业者结合FPGA,实现跨服务器的存储器互连;另有业者利用CXL Switch的ASIC,针对不同服务器的存储器进行Pooling。

截至目前,SMART已基于E3.S、Add-In Card等不同Form Factor,推出两种XMM CXL 2.0模块,其中Add-In Card方案被SMART列为现阶段推广重点。

主要是因为,E3.S是全新的界面,服务器厂投入发展的进度快慢不一,还未臻至普及状态。至于Add-In Card,服务器厂只要利用现有Intel Sapphire Rapids、AMD Genoa等平台上的PCIe通道,无需更改服务器设计,便可直接插入CXL 2.0  Add-In Card,让原本的通用型服务器摇身变为Memory-Driven服务器,抢攻偌大高效能运算商机。

基本上CXL模块算是「ASIC+存储器」组合方案,与起源于DDR 3年代的NVDIMM(为「存储器+Flash+Battery Pack」的组合)架构有异曲同工之妙。而堪称NVDIMM模块发展先驱的SMART,多年来已淬链深厚的定制化产品设计实力,也养成精锐的产品研发与韧体工程团队,如今得以发挥强项,在ASIC既有的RAS基础上,将CXL模块设计得更加稳固可靠。

展望后续,SMART规划将NVDIMM设计到CXL之中,成为另一套新的CXL 2.0模块产品,现已完成相关规划与设计,至于问世时间表,还需配合客户的进程而定。

值得一提,为延揽更多夥伴共襄盛举、一齐加入CXL界面的推广行列,SMART将偕同英特尔、服务器厂、软件厂等现有生态系夥伴,预定在5月共同举办「引爆存储器池潜能,CXL助攻高效能AI运用」论坛活动,届时将展示夥伴们打造的Memory Pooling解决方案,期盼借此形成典范转移效应,吸引其余业者起而仿效、开发更多基于CXL 2.0的Memory-Driven创新运算平台。