掌握数据经济时代新契机 美光推动存储器与储存技术创新

AI与5G汇聚带动的数码革命，使数据成为驱动经济发展的关键要素。因此，对各类运算架构来说，除了要求更高运算能力，存储器和储存元件亦扮演着比以往更重要的角色。

在2021年的台北国际电脑展COMPUTEX展会中，美光科技发表了一系列基于其领先176层NAND和1α DRAM制程技术的新产品；同时美光总裁暨CEOSanjay Mehrotra及资深副总裁暨运算与网络事业部总经理Raj Hazra亦发表演说，阐述将如何透过存储器与储存创新，推动AI的扩大应用，以实现从数据中心到智能终端的无限可能性。立即在线观看2021 COMPUTEX美光CEO精彩影片发表。

发挥数据经济的潜力

Sanjay Mehrotra在以「数据经济(data economy)的创新引领数据新生活」为题的专题演讲中指出，由于技术创新助力企业加速取得数据背后的洞见与意义，促进了数据经济发展。根据麦肯锡研究报告，到2030年，先进数据分析技术将为全球经济增加13万亿美元的产值，而这些价值的创造取决于我们是否有能力利用庞大数据，更快地制定出更佳决策。

他指出，「数据推动了前所未有的创新速度，而AI和5G是实现数据经济的关键，这两项技术的结合能为后疫情时代带来新的展望与应用商机。」

首先，随着AI技术的快速发展，到2025年，预计75%的企业会把AI导入其营运流程中，为各行各业带来全面改变，而AI的普及应用也刺激了运算平台变革，才能更有效、更快速地进行数据分析工作。至于5G，由于具备超高带宽、大规模连结、以及低延迟特性，将带动智能终端网络的实现，有助于数据的实时存取与处理。

「所有数据的运用，都需透过存储器和储存技术来达成，这也是美光所专注的领域」，Sanjay Mehrotra强调。「此成长与转型意味着对技术创新的需求，以为从数据中心、到终端网络，以及智能终端装置提供全新的解决方案。」

全球首创的176层NAND

结合先进制程技术、产品创新以及建构生态系统等三项策略，美光展现了引领市场的强烈企图心。在演讲中，Mehrotra宣布，第一款采用全球首创176层NAND的PCIe Gen4 SSD产品已正式量产，将能以更高效能、更低功耗与精巧尺寸，支持PC市场对于数据密集工作负载的需求。

此外，美光继2021年1月发表导入1α制程的DRAM产品，本月已开始大量出货使用1α制程的LPDDR4x DRAM。美光亦在第三代AMD EPYC数据中心平台上完成1α制程 DDR4的验证，目前两款产品皆已在包含台中A3新厂的美光台湾先进DRAM厂区量产中。

在汽车市场方面，美光则是宣布车用的128GB及256GB容量的96层NAND快闪存储器已开始送样，两者皆是其UFS 3.1界面NAND新产品组合。

实现AI创新的关键

在业界朝AI无所不在的目标迈进前，还需克服哪些挑战？美光资深副总裁暨运算与网络事业部总经理Raj Hazra在「存储器是AI创新的核心」为题的演讲以及美光的COMPUTEX展前记者会中，说明了存储器创新对扩展AI应用的重要性。

他指出，传统服务器架构是以CPU为基础所设计的。随着AI、HPC、大数据分析等数据密集工作负载的快速成长，业界企图透过增加更多CPU核心或是异质运算核心来因应此挑战。但当存储器创新的脚步无法跟上运算负载量的成长，将成为运算架构的瓶颈。

因此，存储器和储存已成为平台创新的主要环节。这也是为什麽，当业界在制定下一代DRAM标准─DDR5时，首次以数据中心，而不是终端装置的需求为主要考量。

DDR5是过去10年来的重大平台创新，可为存储器的带宽与容量，以及数据中心能力带来大幅提升。美光已于一年前启动DDR5技术应用支持计划(Technology Enablement Program；TEP)，协助生态系统朝DDR5平台整合移转。目前已有超过100家企业、250位设计及技术领袖参与计划。

存储器的未来

除了DDR5之外，Raj Hazra表示，为了支持AI训练与高效能运算的工作负载，就运算架构来看，我们应对既有以CPU为中心的平台设计方式做一更新，透过提供突破性的存储器容量，才能满足数据中心的应用需求。

对此，美光已于日前宣布支持Compute Express Link(CXL)标准，它的目标是使业者能够透过直接、高速界面，建置扩展的存储器容量，以作为CPU、GPU和其他加速器等不同运算单元的可共享资源，并根据工作负载需求实时配置。

「存储器必须与运算单元更接近，才能加速存取并提升效能。透过导入新的开放标准CXL，业界将朝完全组合式(composable)数据中心架构迈进。将能够连接CPU、GPU和加速器、储存、存储器和网络。」

特别是，随着AI模型日益庞大，不论是AI的垂直扩展(scaling up)或水平扩展(scaling out)，都面临了功耗、成本、延迟、容量等各种挑战。

透过建置新的存储器层级(memory hierarchy)，包含近端存储器(near memory)如高带宽的封装中直接连接存储器(in-package direct attached memory)以及线上存储器(far memory)如CXL连接存储器，将能大幅提升数据热区的处理效能。

Raj Hazra表示，透过此架构革新，将能实现未来的组合式数据中心，以最佳化基础架构，因应从AI训练、到模拟和建模，到数据库管理和分析的各种数据密集工作负载。美光目前正积极开发CXL相关产品，将以完备的存储器与储存产品组合，满足AI运算的各种需求。