AI应用遍地开花 高带宽低容量存储器成功耗表现成败关键 智能应用 影音
TERADYNE
DForum0515

AI应用遍地开花 高带宽低容量存储器成功耗表现成败关键

  • 林稼弘台北

GP-Boost DRAM可以提供客户外挂的独立存储器产品,或是让处理器业者直接以封装方式,再交由客户进行设计。华邦电子
GP-Boost DRAM可以提供客户外挂的独立存储器产品,或是让处理器业者直接以封装方式,再交由客户进行设计。华邦电子

随着AI技术在各类应用持续普及且不断进化,其功耗表现成为至关重要的关键,华邦所开发的高带宽低容量存储器,如GP-Boost DRAM与HYPERRAM恰好能因应此类市场需求。

AI运算在近年来已经是各类电子终端产品中不可或缺的重要技术之一,随着技术不断演进,终端装置的系统功耗表现早已是诸多业者们所十分在意的重点。华邦电子观察,早期AI在云端运算与数据中心的发展,随着数据量的不断增加,对于AI的模型训练与事件推论的发展虽然有其帮助,但数据量的增加对于存储器带宽的需求自然有相当大的提升。但若将目光放到边缘(Edge) AI或是终端(End point) AI,会进一步考量到功耗表现。

华邦擅长高带宽中低容量存储器开发  系统成本可再进一步降低

华邦因应AI技术的发展,开发商可以透过工具将AI模型进一步压缩,从系统开发的角度上,过往外挂所需的存储器容量,在AI模型缩小之后,可望有所降低,所以整体成本可望优化,但另一方面,终端装置所要处理的AI模型数据效率,反而与日俱增,所以存储器所需要的带宽必须要有所升级,才能有所因应,而华邦本身就极为擅长开发这类产品,针对中低容量存储器的产品开发上,致力于存储器带宽的升级。

华邦依据业界在不同的算力与ARM CPU类别组合上,提供相应的存储器产品,以Cortex-A系列的CPU来看,推荐GP-Boost DRAM内的1~2Gb LPDDR3/4产品线,存储器带宽范围约莫从8.52GB/s到17.04GB/s。目前GP-Boost DRAM可以提供客户外挂的独立存储器产品或是让处理器业者直接以封装方式,再交由客户进行设计。除了Cortex-A系列的CPU外,对于更低功耗的Cortex-M系列CPU,华邦则是以HYPERRAM产品来加以因应,对于更小的AI模型,例如数码识别或是语音指令等应用场景,搭配如Cortex-M7或是M55这类微控制器专用的CPU,目前市场上的带宽需求大约是1GB/s。

AI EXPO力推HYPERRAM ARM、RISC-V CPU架构皆适用

华邦此次所参加的AI EXPO,预计要推广的产品线就是HYPERRAM,锁定穿戴式应用为主,尽管这类产品在市场上已经非常广泛,但规格仍在持续发展中,尤其这类产品对功耗十分重视,所以华邦在HYPERRAM的功耗表现上做了不少努力。HYPERRAM是采用串行信号,但进一步提升存储器内部的频率与I/O数量,所以更加适合穿戴式产品这类在意功耗表现的终端应用。在一般待机模式的功耗表现为例,以存储器容量64Mb来进行比较,传统SDRAM待机功耗约莫2000uW,若是进入HYPERRAM独有的Hybrid Sleep mode,待机最低功耗约莫35uW,这个Hybrid Sleep Mode待机模式仍然保有数据,但相比于SDRAM,待机功耗却降低了98%,可谓相当大的跃进。华邦除了HYPERRAM要进行推广外,GP-Boost DRAM家族也有新的成员即将面市,如前所提,华邦擅长开发中低容量的高带宽存储器产品,所以AI EXPO将会有1Gb LPDDR4/4x样品跟大家见面。

不过,华邦也强调,尽管市场主流的CPU架构以ARM CPU较为常见,但华邦的存储器产品也适用于RISC-V CPU设计,近期陆续有成功案例推出在eFPGA领域,观察台湾与国内都有获得采用,目前国内市场在这两年持续积极发展RISC-V,尤其有不少应用对于功耗要求十分重视,相信HYPERRAM应能在国内市场获得不少青睐。