AMD Solutions Day 展现台湾产业生态系统雄厚基础 智能应用 影音
DForum0522
ST Microsite

AMD Solutions Day 展现台湾产业生态系统雄厚基础

  • 孙昌华台北

AMD与27家软硬件合作夥伴共同打造的解决方案。AMD
AMD与27家软硬件合作夥伴共同打造的解决方案。AMD

AMD于美国时间6月13日于旧金山举办数据中心与人工智能技术发表会,再次成为全球媒体关注焦点,紧接着AMD在6月下旬于台北举办AMD Solutions Day,除了呼应AMD董事长暨CEO苏姿丰博士在旧金山所分享的内容,并进一步邀集了台湾重要的合作夥伴,如戴尔、慧与科技与微软等一线主管,就多云创新、ESG与AI技术等议题进行分享,同时现场由27家软硬件合作夥伴展示与AMD共同打造的解决方案,更彰显了AMD近年来在台湾产业生态系所打下的深厚基础。

此次AMD Solutions Day先由AMD数据中心解决方案事业群台湾区资深业务副总经理林建诚作开场演说。他谈到,近期的AI话题在5月底的COMPUTEX达到一个高峰,而苏姿丰博士在AMD数据中心与人工智能技术发表会所分享的内容也与AI有相当密切的关系。

事实上,AMD近期的产品策略以高性能运算与自行调适运算等技术范畴为基础,扩展到数据中心、企业级应用、AI、5G基础建设与智能终端等,而以AMD自有的产品线来说,就有EPYC处理器、网通所需要的ALVEO与Pensando平台,以及AI领域所不可或缺的Instinct加速器与Versal系列的FPGA产品等,AMD相信这些技术将能为未来的人类生活带来贡献。

第4代AMD EPYC处理器性能、效率缴出全面性领先成绩单

在服务器处理器方面,第4代AMD EPYC处理器(代号为Genoa),在目前业界的性能或是能源效率的表现,大致上都领先友商的处理器8490H有一定的距离,不论是JAVA、VMmark 3.1.1等评测指标,至少都有1.7倍以上的领先差距。而在能源效率的表现更是领先达1.8倍、AI运算效能则有1.9倍左右。

以核心数量来看,AMD EPYC 9654处理器搭载多达96个Zen 4核心,相较于友商的8490H的60核心,效能明显提升,所以也带来了整体数据中心建置成本的有效降低。以2,000个VM(虚拟机器)来说,若采用8490H处理器所需要用到的服务器数量高达17台左右,但改采EPYC 9654处理器,在相同的服务器系统设计架构下,能将数量降至11台,而这也能进一步降低数据中心的面积使用,对于近年来相当火红的ESG议题来说,在碳排上能做到明显的控制。

至于近期十分重要的议题:云端原生应用,AMD EPYC 9754处理器(代号为Bergamo)搭载多达128个Zen 4c核心,与友商的8490H处理器相较,在各项数据表现上也都有1.6倍甚至是2.6倍的效能输出,而在IT容器密度也有2.1倍左右的差距,Java每瓦的运作效率也是高出2倍之多。

而在技术运算(Technical Computing)方面,AMD的优势更加明显,不论是从CAD/CAM,亦或是EDA相关工具的,搭载AMD 3D V-Cache技术的第4代AMD EPYC处理器有着赢过友商8490H处理器高达2.2倍甚至是接近3倍左右的性能距离。除了硬件本身的性能表现外,相关的EDA与软件业者所提供的软件方案都已透过AMD的处理器加以优化,进而展现这样的成绩。

目前第4代AMD EPYC处理器分别以不同的代号对应不同应用场景,此次旧金山所发布的处理器代号为Bergamo与Genoa-X,分别对应云端原生与技术运算领域,将陆续被客户采用。AMD也将在下半年发布Siena处理器,定位将锁定电信设备与边缘运算应用。除AMD处理器的多核心效能在各项数据的表现上赢过主要竞争对手外,AMD从第3代EPYC处理器开始日益增强,也使第4代EPYC处理器的单核心效能与能源效率表现更加出色。

2024年预计将发布搭载Zen 5 CPU架构的EPYC处理器,其相关的接脚基本上都与第4代EPYC处理器兼容,所以客户在采用上,只要处理基本的微调工作,就能立即享受到性能升级所带来的好处。此外,过往Ryzen处理器聚焦在个人电脑应用,现在也开始进一步扩展到服务器市场,此次大会也有采用Ryzen处理器的服务器摊位展示。

AMD强调AI软硬件方案已全数到位

在AI方面,目前看起来似乎市场上只有一家公司的解决方案,但就AMD的做法上来看,可以从三个方向切入,第一是AMD的解决方案相当完整,有CPU、GPU与FPGA等产品线,其次是软件层是以开放概念为主,第三则是整个生态系统基本上已经就位,只要客户在AI的Framework是选择业界普遍所常见的项目,像是PyTorch、TensorFlow与ONNX等,在AMD的ROCm平台上,其系统开发都可以轻易地做到最佳化。

除了硬件产品已经领先竞争对手已有一段距离外,在软件相关套件与开发工具上,AMD也已经发展了有六、七年左右的时间,以ROCm来说,目前已经推出第五代的版本。AI GPU方面,AMD的战略以现今所推出的MI300X产品线为基础,客户未来可以用更少的GPU来完成大型语言模型的处理工作,在费用亦或是在成本上都能获得有效的控制。

嵌入式AI 亦为关键,AMD强调完整硬件平台优势

此次Solutions Day的另一重点,则是AMD全球副总裁暨嵌入式解决方案事业群总经理Rajneesh Gaur特地来台,分享AMD在嵌入式与边缘运算等应用如何导入AI技术。Rajneesh表示,从钜观的角度来看,AI被导入生活场景的应用发展,其实才刚刚起步,但也毫无疑问的,我们也看到了ChatGPT的崛起。

但若进一步在各类应用实现AI的导入,以医疗领域为例,如果像是内窥镜或手术机器人,就必须要有实时的高性能推论运算表现,但与此同时,云端的AI模型训练也要有适当的调整,方能有最完善的搭配,而AMD本身就具备完整的解决方案与技术,可以推动从云端到边缘的各种部署工作。

而在嵌入式应用,Rajneesh也谈及相当多的案例,像是5G基础建设中,便可以利用嵌入式处理器以AI运算的方式来处理波束成形的工作,或是处理网络数据的性能上能够再加以优化,而这可以透过AMD的ZenDNN平台上加以实现。

车用方面,自然就得也提到AMD旗下的FPGA产品线,Rajneesh表示,单以自驾车与ADAS来说,FPGA产品线能够灵活地适应与处理来自于车辆外围不同的传感信号,并且进行不同物件的侦测,最后再透过车辆中央的处理器进行信息汇流,来进行实时的驾驶控制,而这样的概念,也能在无人机应用实现。

戴尔聚焦数码科技应用,IT将朝个人化服务发展

而在一线合作夥伴的演讲中,台湾戴尔科技集团总经理廖仁祥则是以「善用数据科技、多云创新 实践永续未来」为题,分享戴尔在数据科技近期发展的观察。戴尔在2022年针对全球6,600个客户进行调查,横跨45个国家、14种不同产业别,最核心的问题是,公司在创新时遇到的主要挑战为何?经过调查后,尔发现有几个挑战正在发生。在过去,云端可能为企业带来很多好处,但相对的,在发展的过程中,企业也看到了不少的问题,所以进入到下一个阶段,已经不再是公有云、私有云甚至是混合云的讨论,而是多云的概念如何被落实与应用。

慧与科技以完整软硬件方案搭配顾问服务协助客户数码转型

慧与科技(HPE)企业产品事业群总经理萧舜华则是从ESG的角度来分享慧与科技的主要策略与观察。慧与科技主要是以GreenLake IT as a Service的概念,为客户提供完整解决方案的供应商,基本上已经跳脱出传统的硬件销售思维。在作法上,因应客户在投入数码转型亦或是ESG议题上,在基础建设上的资源投入与控制该如何做到有效且合理的资源分配,其实已经是客户在实务上所会面临的课题。

也因此,慧与科技以混合云的基本概念,搭配顾问专家服务的方式,像是哪些要放云端,哪些资源要放在当地的机房这类的议题,协助客户在资源分配与管理上做到最佳化。

AI提升工作效率表现,微软将引进AMD最新GPU产品线

微软亚洲区HPC/AI解决方案副总经理冯立伟则是就微软在各项产业在导入AI的实务上分享其经验,现在AI的讨论,已经不是在探讨要不要导入的问题,而是它能为你的企业带来获利与提升竞争力。而微软最引以为豪的OPEN AI,背后所仰赖的就是极为庞大的算力资源,但重点在于,OPEN AI能因应你的定制化需求,而ChatGPT4.0也准备就位,为一般人带来更多的便利性。

Copilot可以根据使用者过去E-mail的来往纪录、文件、简报档等,协助汇整出所需要的会议结论或是重要事项,所以使用者可以更加聚焦有生产力的工作事项上,而非花时间在整理这些文件数据与提炼出重要的会议结论。此外,冯立伟也提及与AMD之间的合作,微软部分的AI Copilot服务上,其底层所采用的硬件是AMD Instinct MI250X加速器,相较于目前主要的GPU,Instinct MI250X加速器的效能相当出色,未来也会采用Instinct MI300系列来支持微软的服务,供客户来使用。

此次AMD Solutions Day活动,除了有丰富的议程与合作夥伴的演讲内容外,现场亦有许多合作夥伴的技术展示,像是美超微(Supermicro)展示出搭载AMD EPYC 7003处理器与Instinct MI200加速器的服务器产品,亦有许多OEM业者如UltrARMor、CASWELL(瑞祺电通)、Accton(智邦)等展示出诸多边缘运算与网通设备产品,整体而言,产品种类相当多元,显示出AMD服务器相关产品线在台湾产业生态圈已有相当厚实的基础。