ARM全新终端产品运算子系统 推动AI PC与AI手机之实现

随着AI PC和AI智能手机的兴起，意味着AI所驱动的强大运算能力和更佳效率已不再仅限于用在数据中心。在此趋势下，各种终端装置都将进一步支持AI功能，带来全新的使用者体验。为因应此市场需求，ARM日前发表全新的终端产品运算子系统（CSS for Client），凭藉着效能升级、制程以及软件最佳化等多项优势，可望加速AI PC和AI手机的实现，带动庞大商机。

首次为CPU和GPU提供实体实作

近年来，ARM制定了运算子系统（CSS）策略，透过提供预先整合与验证的运算单元，以协助客户缩短产品开发周期。截至目前，已针对基础设施发表过CSS解决方案，针对车用领域的ARM CSS，预期于2025年上市供应。

而此次针对终端产品推出的CSS，其特殊之处在于，这是ARM首次以实体实作的形式提供CPU和GPU。ARM 终端产品事业部产品管理副总经理 James McNiven表示，「透过与晶圆制造合作夥伴合作，我们最佳化了3nm制程上的量产就绪实体实作，以提供更佳的效能与效率。」

他强调，藉由此举，ARM将能为客户带来更高的价值，特别是高端手机设计，客户对加速上市时程的需求更为殷切。对此，ARM可提供GDSII档案（仅限于3nm制程），客户可将其直接整合于布局设计之中，将能更快推出新产品。

兼顾扩展性 提升系统级效能

James McNiven指出，随着终端装置对AI效能有更高的要求，特别是针对多媒体、游戏等应用，如何协助开发人员更轻松实现AI PC/AI手机所需的效能与效率，是我们的重要课题。

「对ARM来说，我们思考AI已有很长一段时间，2021年发表的ARMv9架构，便是专为效能和AI所设计，过去几年来也已针对矢量加速、机器学习等功能提升其运算能力。」

这次推出的CSS for Client便是以2023年推出的ARMv9.2架构为基础，结合最新的Cortex-X925 CPU、Immotalis-G925 GPU，以及Corelink系统互连和系统存储器管理单元（SMMU），打造一个兼具效能和效率的运算平台，协助开发人员更快地在ARM架构上开发AI体验。

针对高端AI手机需求，Cortex-X925可提供高达的41% AI效能提升，有助于大幅增强生成式AI的反应速度。此外，Immotalis-G925也进一步推动了光线追踪技术在移动设备上的实现，不仅在手游应用程序方面增加37%效能，也推升了34%的AI推论效能。

除了高端手机，举凡数码电视、游戏机、智能手表等各种消费产品，都将受惠于ARM终端产品运算子系统带来的效能与扩展性。

James McNiven指出，「我们提供了三种不同的CPU微架构和GPU选项，客户可以灵活运用，开发各种装置。除了Cortex-X925和Immotalis-G925的效能升级之外，事实上，透过微架构改进、制程和实体IP最佳化等重大革新，我们的Cortex-A725相较于Cortex-A720也实现了35%的能效提升，这对更广泛的消费应用来说，也是非常重要的！」

发表全新Kleidi软件 为CPU带来最佳AI效能

ARM并未把NPU纳入其CSS方案中，对此James McNiven解释说，「目前有约七成的第三方Android机器学习工作负载都是在CPU上执行，对我们来说，如何充分发挥CPU的AI运算效能是更重要的议题。另一方面，以最新的生成式AI为例，目前LLM（大型语言模型）仍持续进展中，若以NPU方式建置将难以因应新的模型而更改，所以CPU处理是最具弹性的。」

有监于此，ARM这次也一并发表了全新的ARM Kleidi 软件，其中包括AI工作负载的KleidiAI和针对电脑视觉应用的 KleidiCV。James McNiven表示，ARM Kleidi是小型、最佳化的运算核心，可整合到各种执行AI或电脑视觉的装置，并支持NEON、SVE2和SME2等指令集，以确保开发人员在部署到任何一种ARM CPU时，都能获得最佳效能。

「以KleidiCV为例，当我们把它整合至在支持 NEON和SVE2的装置上执行OpenCV时，速度提升了75%，这是非常显着的效能升级。我们2024年还将与OpenCV.ai合作，使Android开发人员更容易将OpenCV纳入其专案中，并从KleidiCV的效能提升中获益。」

强化与台湾产业合作 AI产品商机可期

随着CSS for Client的推出，也为ARM推进耕耘许久的Windows on ARM市场带来了更多的优势。James McNiven表示，「对WoA生态系统来说，2023年也是我们丰收的一年。现在已有愈来愈多的基本应用程序成为ARM原生程序，例如Chrome以及Office、Dropbox、Zoom和Adobe套件等，因此大部分使用者都将能执行原生应用程序。」

「我们预期2025年将能看到WoA有显着进展，随着生成式AI应用的快速发展，未来包括照片、视讯、游戏等应用都将能打造出更丰富的个人化体验。」

随着AI商机爆发，AI PC和AI手机将能为台湾产业带来新的成长契机，James McNiven强调，ARM非常重视与台湾业者的夥伴关系，将在新的AI时代中建立更紧密的合作。「我们看到了业者试图把AI功能带到包括数码电视等各种终端装置中，台湾科技产业正展现出活跃的设计动能，我们也乐见未来将有更多的创新产品出现。」

「对ARM来说，我们将致力于提供AI运算的基础平台，并投资于建构更高效能的终端产品运算子系统。未来，我们还将增加更多的AI功能和安全性，带动生态系统的进一步创新。」

ARM终端产品运算子系统（CSS for Client；CSS）是由AI驱动消费者体验的全新运算平台，为新型人工智能工作负载提供基础运算，推动全新的智能及沉浸式体验，横跨AI PC至智能手机等装置。请点此了解基于ARM架构上的移动运算未来。