CXL存储器经济效益夯 SMART Modular引领AI时代运算效能大跃升 智能应用 影音
Event
member

CXL存储器经济效益夯 SMART Modular引领AI时代运算效能大跃升

  • 郑宇渟台北

全球专业存储器与存储解决方案领导厂商SMART Modular Technologies(世迈科技)于2025年2月21日在台北举办技术研讨会,现场座无虚席,产业专家齐聚探讨CXL技术在AI与HPC领域的应用。SMART Modular Technologies

全球专业存储器与存储解决方案领导厂商SMART Modular Technologies(世迈科技)于2025年2月21日在台北举办技术研讨会,现场座无虚席,产业专家齐聚探讨CXL技术在AI与HPC领域的应用。SMART Modular Technologies

大量人工智能(AI)应用席卷全球科技浪潮,大幅推升云端数据中心的资本支出。美国科技巨擘斥资数百亿美元建造数据中心的手笔令人咋舌,但与产业界对AI服务器的投资力道相比,却呈现出截然不同的步调。业界期望透过务实的方式来提升效能与运算效率,而基于DRAM主存储器扩充技术的解决方案能有效满足运算需求,已为业界创造全新可能性。

CXL(Compute Express Link)存储器互连技术为服务器提供存储器资源扩展能力,让处理器可以改善利用率,降低待机时间,优化运算资源,打造更具竞争力的服务成本结构,也因此逐步受到市场的关注。

CXL技术已经从1.1、2.0升级到3.1的规格,透过「扩展存储器」,以及「存储器池(Memory Pooling)」、「分享存储器(Memory Sharing)」技术,实现了从单机环境扩展DRAM存储器,进阶到仰赖跨服务器互连的存储器池,以及多个主机服务器共享存储器的诉求。

新时代CXL技术藉由创新的存储器共享与动态配置技术,帮助服务商突破存储器效能瓶颈。全球专业存储器与存储解决方案的领导厂商SMART Modular Technologies(世迈科技)看准这个重要商机,于2025年2月21日在台北举办技术研讨会,藉由汇聚生态系夥伴的力量,加速CXL技术在AI/ML及HPC等高端应用的创新进程。

SMART Modular亚太区发展总监洪纲懋的开场致欢迎词中,除了感谢与会的来宾与生态系统夥伴共襄盛举之外,他更强调CXL技术瞄准运营商、AI服务商及企业高效能运算(HPC)等应用,期望与生态系统夥伴及系统整合商携手合作,为客户提供效能更卓越的运算解决方案,同时致力于开拓新商机,确保CXL服务器制造商能获得实质商业成果,促进市场良性竞争以推出更具成本效益的产品,从而共同扩大CXL技术的市场规模与整体商业价值。

世迈科技(SMART Modular)亚太发展总监洪纲懋。SMART Modular Technologies

世迈科技(SMART Modular)亚太发展总监洪纲懋。SMART Modular Technologies

2025年英特尔新登场第六代Xeon处理器  支持CXL 2.0规格

英特尔商用业务总监郑智成率先介绍英特尔处理器在CXL存储器支持方面的最新进度。自第四代Xeon处理器起,英特尔便开始导入CXL技术支持,而2025年即将上市的第六代Xeon 6处理器将进一步支持CXL 2.0规格,提供基于PCIe的完整功能,包括CXL DRAM模块热插拔与存储器外部共享,并支持Switch互连交换技术,以强化系统互联机制的完整性。

英特尔长期专注于优化处理器核心(Core)的DRAM资源分配效率,而CXL技术在这个挑战发挥了关键作用。实际测试结果显示,尽管CXL存储器存在微小延迟,但其扩充记忆的效能仍可达DIMM主系统存储器98%左右,从成本效益角度来看,这一表现相当出色。

因此,即使CXL存储器扩充模块与DIMM存储器效能存在些许差距,藉着显着的容量扩充,依然能满足大多数大存储器实际应用需求。以ERP大厂SAP的HANA数据分析效能为例,采用CXL存储器扩充后,企业可显着降低数据中心的投资成本。

英特尔(Intel)商用业务总监郑智成。SMART Modular Technologies

英特尔(Intel)商用业务总监郑智成。SMART Modular Technologies

和硕联合科技迎接CXL技术带来的AI/ML与HPC应用崭新商机

和硕联合科技(以下简称 「和硕」)的廖聪魁研发总监接续上台,分享和硕如何积极导入CXL技术并开发创新服务器解决方案。他提出「CXL为了AI/ML与HPC而生」的理念,指出CXL能有效解决服务器物理设计的限制。

在DRAM DIMM插槽数量受限的情况下,若只靠增加DRAM主存储器容量来满足CPU每核心配置大于8GB存储器的需求,将导致成本大幅提升而失去市场竞争力,而CXL正好可以提供理想的解决方案。

他更看好CXL 3.1规格带来的新突破,尤其在企业重视的数据安全方面提供更完整的保护尤其在企业重视的数据安全方面提供更完整的保护与Rack level 扩充性。

此外,CXL在提升存储器容量与运算效能上有显着优势,能满足服务器系统Scale up/ Scale Out的扩展需求。透过CXL Switch互连交换器的串接,系统能获得前所未有的扩张弹性。和硕现场展示了一款搭载4-DIMM CXL存储器扩充卡的2U服务器。

廖聪魁特别强调,未来在CXL JBOM技术的加持下,CXL存储器模块可以做到灵活兼容DDR4与DDR5存储器,不仅优化了成本结构,重复使用欲汰换的DDR4存储器; 更可藉由支持DDR5 的CXL JBOM解决方案,有效克服AI/HPC与高端服务器应用中的存储器带宽瓶颈,显着提升系统效能。

和硕联合科技(Pegatron)研发总监廖聪魁。SMART Modular Technologies

和硕联合科技(Pegatron)研发总监廖聪魁。SMART Modular Technologies

永擎电子瞄准CXL下一阶段关键效能扩张的应用

永擎电子(ASRock Rack)余铠帆产品经理介绍与SMART Modular合作开发的CXL存储器技术机架式服务器系统,成功实现存储器共享与动态配置应用。永擎电子提供1U、2U 到4U的全系列产品组合,瞄准企业应用、虚拟化、电子商务及多元超融合基础架构的工作负载,致力于为企业提供兼顾竞争力与成本效益的最佳产品方案。

随着CXL 3.1强化信息安全机制,余铠帆认为CXL应用将为下一代运算架构带来关键突破,尤其在金融服务商的高频交易领域、新药品开发、AI/HPC高速应用、科研分析与海量数据库等应用,以解决数据在不同存储器层级间频繁移动,所造成的系统延迟与效能限制问题。

他特别强调CXL技术在有效卸载知识蒸馏(Key-Value Cache)快取功能方面的优势,能显着降低GPU投资成本。透过SMART Modular的4-DIMM或8-DIMM的CXL AIC(Add-In Card)扩充卡,系统容量可以扩充到4TB,不仅为服务器提供额外存储器资源,更能在扩充卡上实现本地数据处理,大幅降低CPU与存储器间的大量数据传输,优化整体系统效能。

永擎电子(ASRock Rack)产品经理余铠帆。SMART Modular Technologies

永擎电子(ASRock Rack)产品经理余铠帆。SMART Modular Technologies

技钢科技拥抱CXL技术布局全方位运算解决方案

技钢科技(Giga Computing)本次以摊位展示形式亮相,展出G494-SB0服务器,是专为 AI、深度学习及高效能运算设计的高效能 GPU 协同运算服务器。技嘉服务器采用CXL存储器互连共享技术,可实现跨服务器间的运算资源分享,不仅降低数据传输延迟,同时减少机房布建成本及占用空间;也将跟随CXL 3.0的发展与应用,规划更多产品组合,以满足客户需求。

技钢下一阶段的规划将瞄准CXL 3.0规格,优先发展AI应用领域,并规划更多产品组合,以满足各种领域的应用需求。

值得一提的是,技钢科技与阳明交通大学电脑暨存储系统实验室(CSS Lab)首度进行专案合作,由陈硕汉教授指导的研究生廖永诚进行实验研究,尝试以微软GPU/CPU Offloading技术去突破GPU效能瓶颈。

在AI运算过程中,大量数据需要进行搬移与预处理,若CXL存储器能协助优化GPU效能,就能减少GPU的需求。初步的实验测试结果发现,对比单纯使用两张GPU卡的运算方式,使用一张GPU卡搭配CXL存储器扩充模块的组合几乎能达到相同的效能,这个结果无疑能为CXL存储器扩充前景注入一股强心剂。

技钢科技(Giga Computing)携手CSS Lab,共探CXL技术如何突破GPU效能瓶颈,开创AI运算新格局。SMART Modular Technologies

技钢科技(Giga Computing)携手CSS Lab,共探CXL技术如何突破GPU效能瓶颈,开创AI运算新格局。SMART Modular Technologies

智邦科技瞄准Memory Pooling与Sharing应用

智邦科技(Accton)研发部运算中心张胜栋经理谈到CXL共享拓谱架构与应用。他以智邦与Liqid合作开发的产品为展示重点,其中Liqid提供的Fabric Manager软件系统能有效管理GPU、NPU、TPU、FPGA等运算资源的分配。

Accton则整合CXL技术、Ethernet与PCIe Switch交换器,打造出实现运算与存储资源最佳化分配的完整解决方案。当天Accton于现场展示十片SMART CXL AIC扩充卡,每一片AIC配备1TB存储器,共计能提供高达10 TB容量的存储器池(CXL Pooling),可显着提升系统效能。

此外,Accton还开发1U的TOR(Top-of-Rack)交换器,以及4U Enclosure扩充机架服务器,可连接外部服务器扩展系统规模。针对外接线路可能导致的信号衰减问题,Accton在每个Host端或4U Enclosure端的接点均配置Retimer卡,以确保信号传输的完整性与品质。

该专案主要瞄准CDN与大型运营商串流服务解决方案市场,目前正积极进行验证Memory Pooling与Multi-Host Memory Sharing的验证测试,预计将于2025年Q3-Q4实现量产。

智邦科技(Accton)研发中心运算部经理张胜栋。SMART Modular Technologies

智邦科技(Accton)研发中心运算部经理张胜栋。SMART Modular Technologies

创义达科技瞄准金融科技与HPC应用场景的创新

H3 Platform创义达科技潘淮阳(Brian Pan)CEO的简报聚焦于运用软件系统让CPU存取CXL分配的存储器,以解决高端HPC与In Memory Database应用中的存储器容量瓶颈。他以实例展示了两台英特尔EMR与GNR服务器连接共享CXL存储器池的配置,透过PCIe 5与CXL协定进移动态存储器分配,能让四台服务器的效能获得显着提升。

创义达开发的API(H3 Fabric Manager)软件界面可整合Kubernetes及容器,其主要应用场景涵盖流体、大气或洋流等需要处理大量数据运算的HPC应用,以及In Memory Database金融科技应用,并透过CXL技术让4到8台服务器可存取这个存储器池。现场也展示相关服务器系统,配备高达22个SMART E3.S规格的CXL存储器模块,展现强大扩展能力。

创义达科技(H3 Platform)创始人兼CEO潘淮阳。SMART Modular Technologies

创义达科技(H3 Platform)创始人兼CEO潘淮阳。SMART Modular Technologies

CXL拓展终端应用的疆界  开启源源不断的商机

最后由SMART Modular产品经理黄奕璁压轴,再次强调CXL存储器在经济效益与运算效率方面的核心价值。

在内容传递网络(CDN)、数码孪生、人工智能大语言模型等应用领域,采用增存储器可将大量待处理的数据预载到DRAM与CXL存储器中,大幅降低SSD存取需求,同时提升GPU与CPU的运算效能,让企业从有限的GPU与CPU资源中获取最大化运算效益,从而减少新服务器的采购数量与成本支出,为客户创造实质的商业价值与技术优势。

世迈科技(SMART Modular)亚太区产品经理黄奕璁。SMART Modular Technologies

世迈科技(SMART Modular)亚太区产品经理黄奕璁。SMART Modular Technologies

在存储器模块产业拥有超过25年以上资历的SMART Modular产品协理Arthur Sainio于会后接受访问时表示,「CXL技术正处DIMM模块发展的转捩点上,面对各种领域的应用需求,会有愈来愈多CXL模块产品应运而生。」为协助台湾生态系统夥伴顺利开发CXL服务器,SMART Modular已在台湾设立快速自动化检测服务,专门查验各种服务器主机板与CXL存储器的兼容性问题,期盼协助厂商快速克服CXL产品开发过程中的技术挑战,加速台湾CXL生态系统的蓬勃发展,携手迎接CXL市场起飞的庞大商机。

SMART Modular产品协理Arthur Sainio。SMART Modular Technologies

SMART Modular产品协理Arthur Sainio。SMART Modular Technologies