Socionext打造大数据与人工智能服务器系统
- 台北讯
人工智能与物联网的应用紧紧的攫取每一个人的目光,其所引领的应用,不断挑战科技产业的极限,对IC芯片设计与半导体产业而言,形成新一波颠覆式创新的起点,尤其在数据中心与边缘运算所需要的多样化服务器系统,揭开巨量数据(Big Data)时代的序幕。
街头巷尾林立的监控视讯的视讯影像装置,以及愈来越多的智能装置、人工智能系统和工业4.0的各种数码化应用的开发,电子档案、影像、纪录、以及其他数码信息的爆炸性成长,今天的云端数据中心,大量的非结构性数据蜂拥而至,以千万亿位元组(Petabyte)为单位的数据量,更造成服务器运算负载呈指数型曲线成长。
日本主要的IC设计公司Socionext Inc.,擅长于影像、网络、电脑运算与其他尖端技术之发展与应用,尤其以视觉影像与高功能系统单芯片(SoC)在竞争激烈的芯片设计市场上,一直维持高能见度,面对云端服务与物联网应用所需要的服务器相关的芯片解决方案,尝试用原生于超级电脑系统设计的技术观点,走出一条不同的服务器系统的产品发展策略。
这次专访Socionext的SynQuacer服务器开发计划负责人山根秀一(Shuichi Yamane)部长,山根先生负责Socionext旗下以ARM核心为主的处理器产品的市场行销任务,对服务器与数据中心的应用有多年的第一手观察与亲身参与的经验,配合其早年在加州硅谷的常驻经验,熟悉服务器芯片与多样化数据中心相关的解决方案。
尽管面对Petabyte为单位的巨量信息成长幅度的冲击,促使企业藉由快速转移至云端服务的环境,以寻求低成本、高敏捷、高效率、以及控制能力的提升,根据IDC研究报告,从现在到2020年,每年所制造的数码信息,有超过1/3会存放在云端环境中,无论是数据中心、企业云端机房、私有云,或是各式各样的应用,都需要仰赖大量的数据处理与运算的服务器系统,以提升使用的效率。
山根先生坦言使用ARM核心处理器所打造的服务器芯片,在市场占有率上仍力有未逮,大多数以ARM核心所开发的高功能服务器处理器芯片,多半以多核心的Cortex-A57或Cortex-A72为主的芯片设计为主,Socionext则选择一条完全不同的路,从小核心的ARM架构来设计处理器芯片,利用24个Cortex-A53的64位元核心组成Socionext的SynQuacer SC2A11 SoC芯片。
Petabyte为单位的巨量信息处理能力是数据中心的新宠
Socionext认为与其不断在单一芯片中不断加大运算核心的面积与时脉速度,不如使用更多小运算核心来设计处理器芯片,藉由小而美的概念并善用平行运算的技术,就可以获得整体相同的运算效能,举例来说,利用六颗Socionext的SynQuacer SC2A11 SoC芯片的平行运算,效能几乎等同于Xeon的E5处理器,但是每一颗Socionext的SoC约仅消耗5W的功率,六颗SoC总共消耗30W,比起单颗Xeon的E5处理器就需要消耗超过100W的功率,Socionext的半导体解决方案省电效能上强势胜出。
同时为了让大量处理器的并行运算效能的有效提升,也需要同步设计高速的数据交换与连接的技术,Socionext一举打造DDT(Direct Data Transaction)的技术,方便于Socionext的SoC芯片横向扩充之所需,以数据中心中需要密集处理数百个Petabyte数据的应用,传统上标准40G的 Ethernet技术,扣除通讯协定带宽浪费(Protocol Overhead)只能做到实际约4 Gbps的数据传输速度,而DDT技术使用Socionext专属的通讯协定,可以突破10 Gbps的数据传输速度同步处理巨量的数据,让数据处理能力上获得重大的突破。
省电效能与高速数据传输的两项主要的特点,让Socionext可以因应不同运算效能的需求,利用单一的SC2A11 SoC芯片设计运算阵列界面卡PEC(Processor Element Card)为单元,弹性组合不同数量的PEC来打造不同的服务器系统,兼具运算效能与功率消耗的多样化需求,目前Socionext所打造的高效能SynQuacer服务器系统,最多可以插上64片PEC,聚集1536颗ARM的核心组成高密度的运算阵列,掌握非常可观的运算效能。
锁定人工智能与巨量数据索引服务器的应用
SynQuacer服务器系统瞄准两个主要的应用诉求,山根先生强调,首先就是网络营运商(ISP)与电子商务巨擘的数据索引(Indexing)服务器的应用,这关系着搜索引擎服务的良莠,原本牵涉数百个Petabyte数据量的密集运算处理,以进行数据检索与建立索引,让原本需要耗费数日或甚至数周时间的密集运算与高耗能的应用,可以大幅度节省。
第二就是人工智能(AI)的应用,因为AI需要从不同的类神经网络与机器学习的技术来发展聪明演算法,透过大量的数据来训练深度学习框架(Deep Neural Network;DNN),让系统可以透过互相学习,呈现指数级的进步,数据中心大量使用如TensorFlow等学习框架,处理与大量后设数据(Metadata)做超参数最佳化(Hyperparameter optimization)调整,SynQuacer服务器系统的多节点(Multi-Node)运算效能得以大展身手,有效减少数十倍的训练时间,大量节省数据中心的设备总持有成本(TCO),并提高系统效率。
类神经网络使用大量的数据完成训练后,会着手进行AI推论(AI inference)的实用,开始大量部署到边缘运算节点(Edge node),由于边缘运算服务器对耗能要求非常严苛,因为许多终端装置都依赖电池来驱动,这对超级省电的SC2A11 SoC芯片来说是一大优势。
另外,「小型化」一直是边缘运算工作站或微型服务器产品设计的重要诉求,利用SC2A11 SoC芯片本身所具备的弹性与横向扩展的能力,可以使用不同数量的SoC芯片以建构功能强大的微型服务器,兼顾小型化与低功耗的需求,有助于诸如大量节省实时影像识别时间等使用范例的推广,争取云端数据中心服务器分析与信息运算的作业时间,Socionext的SoC处理器能同时满足更多的工作需求。
SynQuacer服务器系统即将于2018年第1季问世
山根先生透露Socionext已经开始寻求具备小核心的人工智能芯片(AI accelerator chip)的整合,透过平行运算的技术,打造同时具备CPU与人工智能芯片的边缘运算媒体服务器的新发展,让使用者找寻节能与效能的最佳平衡点,由于愈来愈多样化与非结构化数据数据充斥,尤其愈来愈多的人工智能系统使用Hadoop环境,因而要求更快速及更复杂的软、硬件分析与运算功能,以提供企业用户能从中获取数据的洞察(Data Insights),Socionext据此发展出下一代的DDT-R的技术,并致力改良服务器芯片设计,以强化省电效能与弹性的平行运算的架构,以支持数百个Petabyte等级的超高数据量时代的来临。
Socionext以新的创意重新设计服务器系统,并且从服务器芯片与系统平台的设计架构上出发,全面翻新处理器芯片与应用的思维,为了达成这个创新,Socionext首先走访台湾电子制造供应链,并建立完整的生态系统,已确保服务器产品的产能与品质;关于各方所关注的产品上市时程,Socionext的SC2A11处理器将于2017年10月底开始量产,而SynQuacer服务器系统将可望于2018年第1季正式登场,台湾的生态系统与协力夥伴已经就位,搭配进驻台北的Socionext的日本工程团队,双方紧锣密鼓的进行系统验证,实现更快、更好的大数据分析与人工智能的新应用。
如需了解更多产品信息,请造访台湾索思未来科技官网或粉丝团专页。