生成式AI引领产业变革　台湾打造全球智能岛

DIGITIMES于11月20日举办「探索GenAI生态系：从技术创新到市场应用论坛」，邀集多位产官学界专家深入剖析生成式AI的技术脉动与市场趋势。DIGITIMES摄

生成式AI发展加温，算力需求大增，芯片、服务器、散热、SI平台等软硬件产业生态系亦须随之进化，方能掌握随之而来的庞大商机。DIGITIMES于11月20日举办「探索GenAI生态系：从技术创新到市场应用论坛」，就邀请多位产官学界专家，深入剖析生成式AI的技术脉动与市场趋势。

国发会副主委詹方冠在致词时指出，生成式AI应用范畴已扩及各产业，其重要性堪比蒸汽机、电力及电脑等重大技术革新。根据预测，AI在未来3年内的普及率将从5%跃升至80%以上，2032年市场规模可达1.3万亿美元。为提升台湾AI产业竞争力，政府推出全方位策略，包括投入逾120亿元建置AI超级电脑及数据中心，并匡列100亿元与产业合作投资AI相关企业。在产业转型方面，政府将协助台湾逾160万家企业导入AI，预计4年内每年辅导10,000家制造业导入AI，透过上述具体政策作为，期望建构完整AI生态系，实现全球AI智能岛的愿景。

生成式AI全面启动 产业龙头布局各展所长

工研院信息与通讯研究所副所长黄维中接着指出，人工智能技术历经数十年的演进，随着大型基础模型的出现，生成式AI在各领域展现强大潜力，从内容创作到商务服务皆有显着突破。然而，生成式AI的发展仍面临诸多挑战，生成式模型可能产生幻觉(Hallucination)问题，而且也需要关注如何确保数据机密性与隐私保护。产业发展需要妥善处理数据整合、算力分配、演算法可信度及模型选择等关键议题。展望未来，小型化大语言模型(sLLM)预计于2030年达171.8亿美元市场规模，年复合成长率约17.8%。智能代理(Agentic AI)则预估在2028年占日常决策15%的应用比例。对台湾而言，生成式AI带来文创内容、商务服务、研发制造、以及企业与供应链的效率提升机会，同时也为新创产业开创发展空间。

技术快速精进的生成式AI，其价值已逐渐在各领域浮现。AWS专业领域架构师团队总监Young Yang在演讲中以Amazon的AI购物助理Rufus为例表示，此平台透过Bedrock模型建构的知识图谱与COSMO系统，能涵盖18大商品类别，提供从商品比较到场景建议等全方位服务。在导入生成式AI时，企业可采取双轨策略：一是寻找Quick Wins，以AI优化现有流程，快速展现价值；二是规划长期战略性应用，为企业创造持续性效益。AWS云端采用框架(CAF-AI)提供完整指引，值得注意的是，在选择应用场景时，须评估数据充足度、传统演算法可行性，以及投资报酬率等面向。

台湾IBM人工智能暨数据解决方案技术工程师江豪文博士，则以生成式AI在制造业的应用与治理为题，提出专业建议。他提到生成式AI正在制造业展现多元应用价值，从IBM AutoAI工具在光电制造的声音异常侦测(准确率99%)，到导入AI对话系统整合维修手册，使维修时间缩减65%、人员培训从3个月减至3周，都展现显着成效。在供应链管理方面，AI协助整合碳足迹与能源数据，实现ESG目标管理与风险监控。然而，AI应用发展同时面临治理挑战，为因应挑战，IBM推出watsonx平台，透过watsonx.ai提供AI训练与部署功能，watsonx.governance可实现生命周期监控、风险管理与法规遵循，协助制造业顺利推动转型。

系统运算能力与AI效能表现息息相关，AMD台湾区商用业务处资深技术顾问陈信宏指出，AMD Instinct平台以创新技术提升高效能运算(HPC)与AI工作负载效能，其中Instinct MI300A整合24颗ZEN4核心与128GB HBM3存储器，提供5.2 TB/s的存储器带宽，并支持硬件加速的CPU-GPU存储器一致性。平台透过ROCm开源软件生态系统，提供完整的软件堆叠支持，包含多种AI与HPC数学库，并实现从NVIDIA CUDA的无缝移转。即将于2025年推出的AMD Instinct MI350系列，采用3nm制程与288GB HBM3E存储器，进一步强化新一代AI模型的运算能力。平台与Meta等合作夥伴紧密合作，支持主流生成式AI模型，并持续扩展机器学习管线，为企业提供高效能、高扩展性的AI解决方案。

生成式AI正为制造业带来全方位升级契机，从电路设计、生产排程到仓储管理皆有显着应用。纬谦科技副总经理李冠仪提到，纬谦科技透过多云解决方案，整合Azure OpenAI与自建AI算力中心，并结合流程双生（Process Twins）技术，实现大语言模型与自动化数据处理的深度融合。其创新架构从传统App-driven转向Data-driven模式，以数据为核心，透过LLM与AI代理人执行智能决策。在实务应用中，纬谦科技已成功支持超过500个转型案例，并取得Microsoft Azure专长认证，更与中华电信合作完成5G智能工厂应用。透过RAG技术与API快速整合ERP、MES、SCM等系统，纬谦科技打造垂直整合的应用场景，协助企业在工业4.0浪潮中提升竞争力。

致力于生成式AI和知识管理解决方案开发的盖亚信息，已于2024年成为全台首家取得AWS AI Competency认证的企业。业务经理陈劲玮提到，该公司开发的NAVI企业AI知识管理系统，透过AWS Bedrock串接多种大语言模型，支持多元档案格式处理与影片深度分析，并提供Open API实现系统整合。在应用场景方面，NAVI系统广泛应用于医疗用药分析、金融报告处理、智能客服等领域，有效减少人力需求并提升数据处理效率。系统特色包含Text2SQL数据库整合与实时语音支持，并计划在未来版本中扩充HTML档案支持与客服聊天机器人功能。在安全性方面，NAVI提供多层级权限管理，支持Windows AD和Azure AD认证，确保企业数据安全。

深化AI应用优势 跨域专家剖析台湾发展愿景

生成式AI技术、应用与政策发展，已成为当今产官学界关注议题。DIGITIMES研究中心分析师兼专案经理黄耀汉在演说时表示，生成式AI的发展仰赖LLM、高效能运算芯片以及多模态数据支持等三大要素。在台湾，生成式AI应用已深入半导体与电子制造业，预计2025年将进入早期大众应用阶段，DIGITIMES 2024年9月问卷调查样本显示，50%企业计划于3年内导入AI技术。

然而，产业发展仍面临诸多挑战，包括先进制程产能不足、HBM供应紧张，以及边缘运算设备的存储器与效能限制。展望未来，生成式AI将朝向边缘运算与云端运算协同发展，LLM也将发展出更多特定应用的M型化模型，企业须结合自身需求选择适合的AI解决方案，同时强化数据治理与运算基础建设，以降低导入门槛。

整合混合多云架构，建立敏捷的数据基础设施，是企业善用生成式AI，加速数码转型进程的重要策略。Nutanix台湾技术总监郑建华指出，该公司透过全软件定义架构，提供统一的混合多云解决方案，支持从传统到容器化的多元应用部署。随着预计2027年全球90%组织将在生产环境运行容器化应用，Nutanix Kubernetes平台(NKP)提供纯正Kubernetes环境，确保无供应商绑定并简化部署管理流程。在AI应用方面，Nutanix GPT-in-a-Box 2.0支持多样化的生成式AI应用，从内容生成到企业定制模型，并透过生态系统合作扩展应用范畴。其数据导向的部署模式整合GPU云与开源软件，并强调数据中心与边缘协作，可协助企业顺利推动转型。

第四次工业革命来临，企业必须同步推动技术与组织的双轨智能升级。生成式AI协会理事长陈靖腾建议，在技术层面，企业需持续投入研发并累积专利；在组织层面，则要善用品牌策略与股权规划。他特别强调，AI时代的消费行为将从传统的文字查找与网页浏览，转变为透过AI Agent进行信息整合与购买决策，企业必须及早因应这波转变，优化AI Agent的查找排名。企业可考虑将行销部门独立成立智能品牌公司，并善用「台湾AI」的国际声誉，搭配精准的关键字策略提升品牌能见度，结合既有的技术实力与创新的组织转型，在全球AI浪潮中站稳关键地位。

除了精彩演讲外，这次论坛也邀请联发科技企业策略与前瞻技术资深处长梁伯嵩、Appier企业沟通副总周峯玉两位深具业界指标的专家，与IC之音《姚姚Tech666》节目主持人姚嘉洋，从不同角度进行座谈。

联发科技资深处长梁伯嵩以「整合生成式AI，启动EdgeAI新纪元」为题指出，AI发展历程中的关键时期为2006年智能手机兴起后，大数据、运算力与演算法三者齐备，促使AI快速发展。联发科除了投入中文大型语言模型的开发，更推出「MediaTek DaVinci」中文昵称为「联发科技达哥」的企业AI服务平台，协助台湾产业运用生成式AI技术。他强调，该平台不仅整合繁体中文语言模型，更加入企业营运所需的智能助理功能，目标是提供产官学研各界完整的AI应用环境。

针对Edge AI的发展，梁伯嵩表示台湾在半导体产业具备优势，但不应仅着重在硬件制造。AI运算需求以每十年增长1亿倍的速度成长，远超过处理器效能提升的幅度，因此如何在终端设备实现高效能AI运算是重要课题。他建议台湾善用半导体优势，开发创新的Edge AI解决方案，透过AI Agent的概念，让小型化的模型也能发挥强大效能，并在节能与效能间取得平衡，借此在全球AI发展浪潮中创造更高价值。

周峯玉则在「台湾SaaS产业迎向生成式AI新浪潮-从在地优势到全球视野」议题中提到，台湾发展SaaS产业具备独特优势，包括充沛的工程人才以及坚强的半导体产业基础。由于国内市场规模受限，台湾SaaS企业必须具备国际视野，从创立初期即瞄准海外市场发展。周峯玉副总强调，SaaS服务的成功关键在于精准定位特定市场需求，透过持续优化产品找到最佳市场契合点，并善用数据管理自动化来提升营运效率，方能在国际市场中建立竞争优势。

在生成式AI浪潮下，台湾SaaS产业面临新的发展契机。她以Appier为例，结合生成式AI与预测式AI技术，能更有效地分析用户行为并快速产出定制化内容，大幅提升行销效益。周副总建议台湾企业应发挥在地优势，优先聚焦于智能医疗、智能工厂等垂直应用领域，透过精准解决产业痛点、持续创新增值，以及与客户建立长期夥伴关系等策略，在全球SaaS市场中创造独特价值。

从此次论坛的专家演讲与现场来宾热烈互动，可见生成式AI已成为企业数码转型的关键推手，透过产官学研通力合作，台湾正以坚实的科技实力与灵活的创新思维，在全球AI浪潮中掌握新契机，为产业发展注入崭新动能。