智能应用 影音
TERADYNE
member

存储器大战略(下):从2D、3D到就近运算 存储器的未来在哪?

半导体是高科技产业,高科技产业的特徵是持续的投入尖端技术开发,以创造新的经济价值,挟以先进入市场的优势,获取超额的利润,然后再以此利润,重复投入更先进制程的开发,以扩大先进制程的领先进度,并投入更多的资本支出,建立更强大的规模经济,这是高科技产业建立良性循环以在竞争中胜出的不二法门。

存储器是半导体产业最大的次领域,存储器包括DRAM、NAND Flash、NOR Flash、EEPROM等产品,以及新兴存储器,其产值大约占半导体市场的25~30%左右。以半导体产业个别产品的产值而言,依次为DRAM(约13%)、NAND Flash(约11%)、CPU(约9%)。这些数字虽然每年会略有变动,但是大小次序约略如此,所以存储器的竞争策略影响半导体产业的发展至钜。

存储器次产业的发展大致可分为下列四个阶段:一、DRAM成为半导体制程主要驱动力的年代(1980~2000后);二、DRAM与平面NAND Flash享有制程与设备综效的年代(2000~2013);三、DRAM与3D NAND Flash分道扬镳的年代(2013~2022);四、引入存储器新增值方式的年代(2022后)。我们将以这四个阶段切入,向各位读者分享存储器产业的兴与衰。

三:DRAM与3D NAND Flash分道扬镳的年代

2014年后24层的3D NAND Flash问世,与2D NAND Flash并行生产到2017年。此后3D NAND Flash因其高密度的容量以及技术能持续推进而独占市场,其制程技术与DRAM完全分流,以前2种存储器在于制程开发与设备利用的综效完全消失,存储器产业竞争战略轴心改变。

DRAM的制程开始进入1x、1y、1z、1a、1b的缓慢进展年代,制程需要2纳米、甚至1纳米1纳米的攻克,昂贵的黄光设备EUV在1z、至迟到1a就必须投入生产;而3D NAND Flash由于开发了第三维度的空间,水平制程的精度反而开始放松,追求的是第三维度容积的快速成长;制程的重心偏向于蚀刻与平整化,黄光反而不再是重头戏。

DRAM制程进展缓慢对于存储器公司是个考虑经营策略转变的时机,即使没有竞争者的挑战,投资于DRAM新制程的研发经费如何回收都有疑虑。只是此时DRAM业内对手在前一阶段竞争中几乎清扫殆尽,市场基本上是寡头垄断,问题变得没有那麽尖锐、迫切。DRAM在以后很长一段时间还是大部分计算相关电子的必要元件,这一点毫无疑问。但是制程进展缓慢最重要的意涵是DRAM也许会脱离高科技产业的行列,公司要采取什麽策略面对市场是个大哉问。一个制程若要停滞十年,很多新进者就很容易跟上来。市场需求还在,可是竞争方式不会是高科技模式,也很难想像50%上下的毛利。

3D NAND Flash的前景相对清晰。由于目前预估的堆叠层数至少可达600层,制程直线推进的策略还有好几年的能见度。

由于2种存储器的研发与制造综效消失,虽然市场竞争没有过去惨烈,存储器公司还是必须有新的竞争策略。

首先,2种存储器之间的市场综效开始浮现。3D NAND Flash SSD的价格已低于机械式硬盘(HD),DRAM和3D NAND Flash变成所有计算机具的共同标准配备,包括手机和电脑,所有存储器公司必须同时提供2种产品给同一客户。所以没有DRAM的公司如东芝(Toshiba)必须向外寻求结盟,一次性满足客户需求。再者,DRAM的发展大限将至,如果还想维持高科技产业营运模式,选项之一是以新的存储器产品来替代此一位置,并且这新存储器还必须留有未来的发展空间,以重复套用以制程推进创造新经济价值的套路,所以新兴存储器的开发是势在必行。然而此时大部分的存储器公司都已肩负2种存储器的新制程开发费用,要另行开发新兴存储器,负担更显沉重。因此新兴存储器的开发必须寻求向外结盟,明显的例子如美光(Micron)与英特尔(Intel)共同开发3D X-point memory、SK海力士(SK Hynix)与东芝(Toshiba)共同开发MRAM等。这些新兴存储器目前的开发进度只有一些利基型的应用,离能够独挑大梁还原远远不及。

四:引入存储器新增值方式的年代

在存储器无法再以传统摩尔定律方式增加新经济价值的时候,产业必须要寻求另类的技术创造新的经济价值创造方式。

要想像存储器产业如何用新的技术创造新的经济价值,就必须要回归存储器的的基本功能处思索。在传统计算机的冯诺依曼架构(von Neumann architecture)中,处理器与存储器是2个独立核心模块。但是由于现实上处理器与存储器的运作速度不匹配,所以存储器依速度又分为SRAM cache、DRAM及永久储存器(NAND Flash SSD)3个层次与处理器串连对接。数据在处理时,信息便在处理器与永久储存器中间的路程反覆的传递、转换。现在计算机半导体的技术中,一个数据的处理的功率消耗绝大部分浪费在这数据的反覆传送之中,真正用于数据处理的功耗反而只占一小部分,这也是现在半导体设计、制造中所面临的最大挑战。

要不依赖制程持续微缩而能够解决上述的问题、而且还能持续增加经济价值,方式之一就是整个计算系统逐渐脱离冯诺依曼架构,而其实施自然要从半导体元件着手。在此思维的引导下,存储器产业探索新的价值增加方式目前看起来有三种:一是发展新兴存储器(emerging memories),二是发展以存储器为中心的计算(memory-centric computing),三是发展应用取向(application-oriented)的存储器与逻辑芯片整合。

发展新兴存储器的方向明确。基本上新兴存储器要如能DRAM一般的读写速度与耐久性,也要能像NAND Flash一样有大容量与永久储存的效果,兼二者之长又能行二者之职,术语叫「storage class memory」。

Memory严格来说是挥发性存储器,像SRAM或DRAM,速度较快,但是只是暂存数据、权做缓冲;Storage则是永久储存器,像NAND Flash。Storage class memory就是能同时执行缓冲记忆与永久储存的新元件。MRAM或者FeRAM(或FeFET),都是这个方向的候选新兴存储器。这样在计算中至少免去数据于DRAM与NAND Flash中间的往返奔波,大幅减少功耗。新兴存储器的发展还有制成持续的空间,SOT MRAM与FeFET甚至还有往3D结构发展的可能性,前程远大。

以存储器为中心的计算有短、中、长3个阶段的尝试。首先是近存储器计算 (near-memory computing),做法是将处理器尽量的靠近DRAM,减少数据在2者之间的传输延迟以及功率消耗。实际的做法是将DRAM芯片多层的堆叠并与处理器用高端封装整合成一模块,这个技术已经开始实施了,基本上现在的高效能计算(HPC)朝这个方向走。如果再多进一步,可能是将DRAM与处理器中间的电子连结全部改成光信号连结,进一步提升传输速度、降低功耗。

更前瞻的是存储器内计算(in-memory computing),这是近年来半导体界会议中的热门议题。实施的方式大致是以上述的新兴存储器同时执行处理器与存储器的功能。这样子的计算架构基本上已经脱离了长年以来所有计算机采用的冯诺依曼架构,处理器与存储器不再是分别的个体,当然也没有信息往返递送的延迟与功耗。

更长远的企图则是师法自然的演进,模仿人脑的运作方式,这就是神经型态芯片。用忆阻器(memristor)模拟人脑中的神经元(neurons)与神经突触(synapses),并且藉学习来建立、强化突触的连结与成长。英特尔的Loihi I及Loihi II基本上就是这个方向的初期尝试。

发展应用取向的存储器与逻辑芯片整合是一个现在已经启动的存储器增值方式,是现在主要半导体经济价值手段之一异构整合(heterogenous integration)的具体实施。譬如说在CMOS影像传感器(CIS)中将DRAM与影像信号处理器(ISP;Image Signal Processor)、滤光镜(filter)、微透镜(micro lens)用先进封装整合在一起,基本上这也是一种近存储器计算的应用。再又如将DRAM与AI芯片用先进封装WoW(Wafer-on-Wafer)或CoW(Chip-on-Wafer)整合在一起,譬如最近Graphcore开始量产的IPU-2,这也算是另一种的近存储器计算应用。虽然这个增值方式的发展方向比较分散,但是在稳定兴起的车用半导体及AIoT的应用中,将处理器与存储器结合是一个预期会常用的方式,我们期待这种对存储器的增值方式会快速开展。

这样的应用方式有特别的场景:使用的存储器并不一定是业界统一规格的标准存储器,重要的意义是DRAM不再是一种大宗商产品,而是要针对应用目的特别设计的专用产品。市场的特质也改变了!

尾声:当存储器与逻辑的边界变得模糊时

1984年英特尔决定退出DRAM的生产行列,这是存储器与逻辑分流的一个象徵性叉路口。以后见之明来看,这个决定再自然不过。二者的设计、制造流程、机台配置、乃至于市场特性都截然不同。让公司专注于单一方向、追求卓越,这是企业经营的基本常识。

但是2000年以后英特尔又重新投入NAND Flash以及3D X-point等存储器领域的研发与生产,原因之一还是在旧有的冯诺依曼计算架构下,存储器与处理器有千丝万缕、难以割舍的关系。前述的Loihi神经形态芯片更是难以分辨它的属性,是存储器、也是处理器。另一个原因是至少短期内藉储存器级存储器来进一步塑造整个计算核心架构与规格,控制更多计算器价值链体系中的多点关键价值。

以存储器为主的韩国半导体产业呢?3年前韩国公布10年半导体发展计划,发展的方向是要迈向系统IC设计与制造,这是韩国政府与半导体产业界仔细谘询后的精心策划,事后看来真是高瞻远瞩,只是少提了新科技的发展,所以我之前的评价是前瞻性略嫌不足。预计DRAM独立产品(standalone product)本身的高科技产业属性即将消失,新的DRAM增值方向之一是应用取向的逻辑与DRAM的异构整合产品,所以戮力发展逻辑代工产业,让韩国半导体产业同时具备这2种类别的制造能力。又因为DRAM产业本身所需设计人力相对稀少,如果要转向发展逻辑代工产业,现存设计人力资源肯定不够,需要快速培养大量IC设计人才。所以培养设计人才也是计划重点之一,用以避免日本在90年代后期退出DRAM产业后要转型到其他类产品所面临的设计人才稀缺问题。

如果上述的例子都还不足以令人相信逻辑与存储器的界线正在泯灭,那麽再看一看以下这几则新闻:美光在台中后里盖封装测试厂、台积电与美光签订合作协议、美光与联电达成民事和解,和解条件之一包括联电的产能利用等新闻。这些新闻怎麽解读?

在DRAM只有独立产品应用的年代,存储器公司是不太会投资封装测试厂的,原因也很清楚:封装测试厂的毛利一般不如晶圆厂,所以存储器公司如果累积一些资本,会首先投入晶圆厂的扩产以增大其规模经济,资本支出留在毛利最高的增值节点,封装测试的工作可以委外代工,这是企业的资本与核心能力最合理的安排。只有在封装测测试已经变成了产品增值的重要环节,才有理由投入资本支出。而这时的封装测试当然不是只用于独立存储器产品的应用,更重要的是与其他类芯片的整合手段,或者是高带宽存储器(HBM;High Bandwidth Memory)与高效能计算(HPC)芯片的封装。

台积电与美光的合作协议是理所当然。台积电已经有逻辑与存储器芯片的异构整合产品,如前述的CIS、IPU2,其中的存储器芯片需要特殊的设计以配合逻辑应片的效能与尺寸要求,逻辑厂与存储器厂深度的合作是必须的。而台积电合作的对象大概不太可能是与其有直接竞争关系的韩国厂商。美光寻求联电的产能则披露了这个新产业领域可能的新型态合作与竞争关系。简言之,美光与联电合作可能有比较有多的利润分配空间。

在异构整合为主要增值手段之一的年代,逻辑芯片与存储器芯片整合在同一产品内本就是业内常态,所以存储器与逻辑厂商早已展开布局也就不足为奇。逻辑与存储器的界线变得模糊了!在更长远的未来,存储器中计算与神经形态芯片的应用中更是你泥中有我、我泥中有你,分不清楚了。各类晶圆制造厂定义自己的核心能力,并且规划由现在到彼岸的最佳发展路径是当前的要务。

林育中为DIGITIMES顾问。1988年获物理学博士学位,任教于中央大学,后转往科技产业发展。曾任茂德科技董事及副总、普天茂德科技总经理、康帝科技总经理等职位。曾于 Taiwan Semicon 任谘询委员,主持黄光论坛。2001~2002 获选为台湾半导体产业协会监事、监事长 (Chairman of Supervisory Board, Taiwan Semiconductor Industry Association)。现在于台大物理系访问研究 (Visiting Research Fellow),主要研究领域为新材料新机制、量子信息 (quantum information) 的基础研究,担任台湾量子计算暨信息科技常务监事 (Standing Supervisor, Taiwan Association of Quantum Computing and Information Technology)。

现为DIGITIMES顾问,1988年获物理学博士学位,任教于中央大学,后转往科技产业发展。曾任茂德科技董事及副总、普天茂德科技总经理、康帝科技总经理等职位。曾于 Taiwan Semicon 任谘询委员,主持黄光论坛。2001~2002 获选为台湾半导体产业协会监事、监事长。