2024 AMD AI Solutions Day 从云端到边缘 AMD全方位加速AI普及
- 孙昌华／台北
-
智能化浪潮席卷全球，企业的AI应用需求与日俱增，如何透过高效能运算加速AI技术落地，成为企业转型的关键课题。「2024 AMD AI Solutions Day」活动以「AI无限进化．AMD驱动未来」为题，邀请到AMD高层与业界专家，从不同面向剖析AI技术趋势与商业应用。会中也同步展示AMD EPYC处理器、AMD Instinct MI300系列加速器等最新一代的AI解决方案，协助台湾产业在生成式AI时代掌握先机。
AMD台湾区商用业务处资深业务副总经理林建诚在主题演讲中，以「AI无限进化．AMD驱动未来」为题，全面介绍AMD在AI领域的布局与最新进展。他指产业转型的核心驱动力，针对此趋势，AMD建构出从云端、终端到边缘AI运算的完整AI解决方案。
AI模型参数在过去十年成长了70万倍，对运算能力的需求也大幅提升，促使数据中心架构产生重大变革。为因应此趋势，AMD与台积电紧密合作，强化产品线在效能、成本与能耗等层面优势。
在数据中心方面，AMD EPYC处理器营收市占率从2018年的2%大幅成长至2024年第3季的33.9%。最新推出的第5代AMD EPYC处理器（代号Turin）采用台积电3纳米与4纳米制程，单颗处理器可支持最高192核心与384执行绪，整体效能达竞争对手的2.7倍，特别适合执行7~10B参数等级的中小型AI模型。目前全球主要云端服务供应商，包括AWS、Microsoft Azure、Google Cloud、IBM、Oracle、Meta和腾讯等，都已采用AMD EPYC处理器。
GPU产品线部分，AMD Instinct MI300系列具备192GB的HBM3存储器容量，为NVIDIA H100的2.4倍，已获Microsoft、OpenAI、Meta等科技大厂采用。其中Meta的Llama 3.1 400B模型推论完全运行在AMD Instinct MI300X上。新一代AMD Instinct MI325X提供256GB HBM3E存储器容量，为H200的1.8倍，在训练与推论效能上都优于对手。AMD Instinct MI325X将如期于2024年第4季量产出货，合作夥伴包括华硕、技嘉、MiTAC、QCT、研华、纬颖等台湾厂商[HC2][RK3]。预计2025年下半推出的AMD Instinct MI350系列将采用台积电先进制程，搭载288GB HBM3E存储器，AI运算效能较前代提升35倍。
针对软件生态系统，AMD持续优化ROCm软件堆叠，已支持Hugging Face、Meta Llama等主流AI架构，多数模型无需额外调校，即可直接运行于AMD平台。网络解决方案方面，AMD加入UEC联盟，并推出AMD Pensando Pollara 400 网络界面卡(NIC)，相较InfiniBand可降低50%总持有成本，同时提供更佳扩充性，最高可支持超过48,000个节点的连接。
对于个人电脑，AMD在2024年下半推出的新品将全面支持Microsoft Copilot，其中最新推出的Ryzen AI PRO 300系列采用AMD Zen 5架构，整合XDNA 2架构的NPU，提供顶尖的50+ NPU TOPS的AI处理能力，超过100款Ryzen AI PRO PC将于2025年推出搭载Ryzen AI PRO 300系列处理器的NB能够解决企业最棘手的工作负载，与Intel Core Ultra 7 165U相比，最高端的Ryzen AI 9 HX PRO 375提供高达40%的效能提升及高达14%的生产力效能提升。
林建诚指出，AMD凭藉完整的AI硬件产品线、持续强化的软件生态系统支持，以及在效能、成本和能源效率上的全方位优势，已在AI运算市场站稳关键地位，随着各项新产品陆续到位，再加上微软、Meta等指标客户的实际导入，AMD在AI基础架构市场的竞争实力更趋完整。
AMD全球副总裁暨嵌入式解决方案事业群总经理Rajneesh Gaur，接着在「AMD AI Edge Solutions」议题中指出，AI是近50年来最重大的技术创新。随着全球大部分的数据处理都发生在终端设备，边缘运算的角色愈发关键。目前AMD在嵌入式领域已服务近7,000家客户，业务范围涵盖工厂自动化、车用电子、电信网络、数据中心、工业及医疗机器人等多元领域。
在技术层面，AMD提供的异质运算解决方案具有独特优势，可针对不同应用最佳化效能，同时具备自行调适运算能力，能因应演算法变化进行调整，并可随应用成长而扩充。处理流程上，AMD能同时处理「预处理」、「AI推论」及「后处理」三个阶段，提供完整的应用程序处理方案。
再就产品布局来看，AMD的嵌入式AI产品线主要分为自行调适运算产品系列与嵌入式处理器两大类。自行调适运算产品包含FPGA、自行调适SoC、SOM与加速卡；嵌入式处理器则有Ryzen与EPYC两大系列。软件支持部分，Ryzen嵌入式处理器搭配Ryzen AI软件，支持多种产业标准AI框架，并可兼容Hugging Face等主流LLM框架；自行调适SoC则提供Vitis AI软件，支持机器学习框架整合。
展望未来，他认为边缘AI在工业、医疗保健及车用市场深具发展潜力。在工业领域，AI将持续革新机器人技术；在医疗保健方面，AI驱动的外骨骼技术正快速进展；在车用市场，AI助理的整合将为使用者带来全新体验。
业界专家深入剖析 台湾掌握AI发展契机
2024 AMD AI Solutions Day特别邀请DIGITIMES暨IC之音董事长黄钦勇、Microsoft微软亚洲区HPC/AI解决方案资深副总经理冯立伟、MiTAC神通资科董事长暨总经理苏亮三位业界专家，就不同角度发表趋势观点。
黄钦勇在「天选．矽岛：台湾在AI时代的黄金法则」演讲中表示，台湾在AI时代具备独特优势与发展契机。从产业规模来看，2020年台湾上市柜电子业营收首度突破1万亿美元大关，2023年半导体产业产值也迈向2000亿美元里程碑。以上市柜电子厂商20%的附加价值率计算，直接为台湾GDP贡献四分之一产值，这显示电子业在台湾经济结构中的关键地位。
台湾的核心竞争力来自完整的产业生态系，五十年来的产业积累，不仅培养大量人才，也建立起绵密的供应链网络。面对AI时代，黄钦勇认为产业策略应优先于效率，效率又重于成本考量。传统代工模式必须转型，重新定义与客户的合作关系。特别是在GPU、AI加速器等新兴应用快速成长之际，台厂应善用在硬件制造的优势，积极与国际大厂合作，提升在价值链的定位。
冯立伟以「运用Azure引领未来的AI创新与应用」为题，分享微软Azure在AI领域的创新布局与应用策略。他提到Azure过去一年将超级运算能力提升30倍。微软与AMD的合作已进入新阶段，目前已开放AMD Instinct MI300X规格给企业客户使用，并持续强化运算效能。
在AI服务创新上，Azure推出GPT-4 Turbo多模型API，不仅支持文字与影像处理，效能较前代提升2倍以上，输出量更提升5倍，同时降低使用成本。针对一般应用情境，则提供GPT-4O mini版本，在保持精准度的前提下提供更经济的选择。企业若需定制化语气及回应方式，也能进行模型调校。
为加速企业导入AI应用，Azure提供RAG机制，让企业得以整合内部数据与AI模型，提升应用精准度。新推出的影片翻译服务，更能在保留原音色的前提下实现多语言转换，大幅提升跨国沟通效率。此外，微软也持续将Copilot整合至Office、Teams等应用中，强化日常工作效率。冯立伟指出，Azure透过完整的AI基础建设、数据服务与应用工具，协助企业大幅缩短AI专案导入时程。未来微软将透过与AMD的策略合作，提供更强大且经济的解决方案。
MiTAC神通资科董事长暨总经理苏亮接着在「Advancing AI：携手与AMD推动数码变革」演讲中，介绍系统整合商在AI浪潮中的策略布局。他提到神通资科两年前选择与AMD合作，主要看重其产品性价比优势、完整的产品线布局，以及开放架构便于整合开源方案的特性。在解决方案架构上，神通资科结合关系企业神达泰安的服务器平台，整合CPU与GPU混合运算效能，并开发MiAIOT平台实现数据整合，逐步建立完整的AI生态系统。
为降低企业导入门槛，神通资科建立AI运算实验室，提供客户进行POC，并透过完整的建置服务协助企业落地。苏亮也从软件开发者的视角指出，AI应被视为人机界面的延伸，重点在于如何有效整合产业知识，创造实质价值。从早期的机器语言、组合语言，到今日的高端程序语言，人机界面不断演进，AI正是新一代的沟通桥梁。
对于未来，苏亮期望台湾产业能从硬件制造优势，延伸至系统整合与软件开发领域。透过完整的硬件、软件与服务策略，协助企业实现数码转型，同时朝向国际市场迈进，这不仅是神通资科的转型之路，也将是台湾AI产业的发展新方向。
产业生态系协作 展现多元AI应用实力
除了精采演讲，AMD也邀请多家合作夥伴，从四大面向分享AI应用的实际经验。在智能转型领域，戴尔科技集团展示AI Factory革新数据中心的应用，HPE介绍混合IT架构创新，技嘉、MyelinTek与Supermicro等夥伴，则展现AI运算与基础建设的整合优势。探索AI应用方面，神通资科展示生成式AI创新，联想分享AI普及化方案，工研院则以动态影像追踪技术展现研发实力。政治大学及APMIC从学术及产业观点，深入剖析AI技术发展趋势。云端智能转型议题上，Broadcom、Red Hat、Nutanix等合作夥伴分别展示私有AI部署、企业应用平台及现代化架构方案。在边缘运算领域，除了AMD展示Ryzen AI解决方案外，研华、DFI等厂商也分享了企业级AI系统建置经验。
从「2024 AMD AI Solutions Day」可见，AMD不仅拥有完整的AI硬件产品线，更广泛串连产业生态系，提供从云到边缘的全方位解决方案，协助企业提升竞争力，从而推动台湾产业创新发展，掌握庞大的AI商机。
