活用云端基建，开创数码、绿色双轴转型新未来
- 阚大成／DIGITIMES企划
-
现今已是AI时代，众所周知数据成为了新石油，因此各行各业都急欲完整地保存、萃取与应用数据，但单凭传统地端架构无法成就此事，所以需要借重云端赋能与协作，从而促使云端储存、运算、网络等基础建设日趋完善，加上终端移动设备逐渐普及成熟，使得「数码转型、绿色经营」蔚为新浪潮。
因此，如今绝大多数企业机构皆有所体认，「双轴核心」已成为营运升级前的必考题，这对于企业而言固然是一笔投资，然而更是一场长期布局与挑战。着眼于此，DIGITIMES举办一场定调在「云端基建与双轴转型」的论坛，希冀藉助产学研各界专家释出宝贵的经验与知识，让来自于企业的广大听众有所启发，知道如何迅速乘上云端浪潮，实践业务永续的终极目标。
透过可信赖云端，加速产业应用与学术研究发展
国研院国网中心主任张朝亮，以国网中心（NCHC）提供的可信赖云端数据分析环境与云端服务作为演说主题。他指出，NCHC提供的云端服务与有别于一般云平台，偏向Specialty Cloud属性，像是NCHC最擅长的HPC Cloud。
有监于产品应用开发、学术研究或是先进研究，都需要存取HPC主机，促使NCHC打造HPC Cloud。谈到常见的云端服务存取模式，多是利用VM来设定一个丛集、然后直接运行，但NCHC亟欲营造高效能运算（HPC）环境，让用户直接存取后端主机，故未采取一般模式，特别打造足以避免延迟（Latency）的中间网络，作为服务的一大特色。
另外论及NCHC所诉求的「可信赖云端」，主要是引进Network Partition概念，考量用户须传输机密数据，因而提出一个具隐私保护、数据加密的网络；而当数据进入云端时，NCHC再以Data Partition、Secure Enclaves加上Data Residency，据以实现数据不落地；后续完成训练，就直接送出结果，并以安全加密机制高度保护数据，借此翻转「Bring Analysis to Data」传统模式，形塑「Bring Data to Analysis」新局。
拥抱大智物云，以数据、通讯及科技改善校园问题
东海大学图书暨信息处图资长杨朝栋，阐释该校在「大智物云」（云端服务、大数据分析与智能物联网）的发展成果。他强调学校犹如小型都市，因此若能做出好的智能校园，可扩展到整个智能城市，反之亦可将智能城市概念缩小到智能校园；为此东海提出「SMILE」概念，期望运用数据、通讯及科技来改善校园中的服务、管理、生活信息、学习、环境等问题，让师生都能因为智能而微笑。
推动智能校园的初期，重点在于建构云端化智能服务应用、虚拟化信息系统、数码化数据应用。后来随着少子化、净零排放等诸多议题崛起，驱使东海智能校园与时俱进，纳进生成式AI、资通安全、AIoT应用、智能＋、SDG/ESG等新元素。
值得一提，在国内大学，东海堪称软件云的先行者，约10年前便以VMware的vSphere和Horizon为基底，让师生可在任何地方线上存取校方软件。后续进入AI／生成式AI时代，东海斥资建构GPU环境，方便师生来运用，存取诸如Stable Diffusion等现今火红的生成式AI模型。
DevOps加上AI，大幅优化委外管理效能
资策会商业经理林君容，探讨如何实践AI驱动的委外管理，提升管理效能。近3多年她聚焦发展DevOps，希望开发团队只需送上程序码，就能自动展开一连串测试，不再需要由管理者紧盯每位开发者做什麽修什麽，即可确知此程序究竟有无品质或漏洞问题。
她强调DevOps重点在于促成跨职能合作，意即在同一个小团队汇聚不同职能，搭配各项自动化工具，协力快速解决复杂问题。发展过程中亦需推动Platform Engineering，把DevOps变成一个Platform，让使用者（工程师）真正专注在他的专长。另随着攻击日新月异，必须将安全检测纳进DevOps。
至于AI可帮到DevOps什麽忙？因DevOps环境充满程序码，据调查约有70%程序码反覆于各专案，但多数人无意重复运用程序码，宁可发包请厂商重写，因为要读取消化既有程序码，得花1.5倍的工，不如重新发包。既然委外需求大，承办人可透过DevOps搭配AI，安心做好合约管理、版本管理、程序码管理与安全检测，并藉由持续交付，清楚掌握每段测试结果，更易于控制风险。
发展企业AI应用，务求破解AI幻觉
DIGITIMES研究中心分析师陈冠荣预期，未来我们可看到除LLM模型规模持续增外，也会逐渐看到更多元的发展趋势。
关于此，大致归纳3个方向。一是LLM逐渐走向多模态，不只是文字生成文字，还有文字生成图片或影音等。二是LLM开始追求小型化，如Llama2有不同参数规模，旨在让模型能搭载在边缘或终端装置。三是云端业者开始着重不同垂直应用，希望为各产业提供专属模型，意谓AI发展不再只趋向一般消费者，也走向更多的企业或产业应用。
惟谈到企业应用，势必更重视模型正确性，以避免因AI幻觉而造成实损失。所以像是模型再训练、模型微调，或是提示词精确化、RAG等议题，可望受到更大关注。
云端服务＋智能搜索，开创AI商业应用
盖亚信息业务经理陈劲玮指出，企业已历经3次转型，一是从地到云，突破地理限制并获取更佳算力、轻易拓展全球生意。二是容器化，增加企业服务的可移植性、效率与安全性。三是AI，也包含近期火红的生成式AI（GenAI）、大型语言模型（LLM）。
惟关于GenAI与LLM，尚有幻觉问题亟待解决。为此陈劲玮介绍两个解方，一是加入关键字（Prompt），二是检索增强生成架构（RAG）；其中Prompt如瞄准镜，帮助我们对症下药、加速找出所需解答，至于RAG，则在答案丢给LLM前，先透过内部检索比对数据，提高整体回答的准确性。而盖亚致力结合智能搜索（Prompt＋RAG）与云端服务，期盼创造1加1大于2功效，助企业加速建构高效准确的GenAI应用场景。
善用无服务器服务，加快Go to Market进程
AWS SSO lead产品团队经理Cathy Lai，针对无服务器（Serverless）议题展开演说。她指出Serverless对AWS非新课题，早在2016年便催生Lambda第一个服务；发展至今，举凡前端运算调度，乃至后面的API整合、数据整合，逐步达到全线产品Serverless化。如同AWS与Amazon.com技术长Werner博士所言，再无一台Server需要由客户营运和维护。取而代之客户可直接启用Serverless服务，快速Go to Market，且不使用时无需付费。
因此透过AWS Serverless运算架构，足以提供弹性扩展、成本节约且高效的运算成分；客户可藉助不同Serverless元件的整合，轻易达到一个整合型架构。譬如前端运算架构进来后，由API Gateway转发，调度后端运算服务，再存档至数据库如DynamoDB、Aurora Serverless V2，或最新推出的ElastiCache Serverless快取服务。
以数据中台延伸AI，形塑智能制造应用大局
纬谦科技副总经理叶卯阳，分享纬谦参与的数码转型与智能制造应用案例。他表示，数码化牵涉甚广，须做到自动化、可视化，往下延伸到数据中台，再藉由数据中台延伸至AI；而数码转型是不断循环滚动的历程，绝非一个专案成功就结束。
数码转型与智能制造殊途同归，最终目的都在于如何创造营收、创造更大价值。故数码转型路径、智能制造路径两者相辅相成，系因产线中除了设备自动化外，还蕴含许多数码转型发展空间，这些发展皆需藉助云端、IIoT及AI三大技术。基于这些目标实践，纬谦力推数据中台服务，透过自动化ETL功能与云端运算引擎，实时活化OT与IT数据资源，助企业进行生产、研发、行销决策化分析。
凭藉最佳算力配置，创造最佳AI应用成效
华硕电脑Data Center Solutions产品经理吕益丞，分享近年华硕集团针对AI运算的发展成果，期望营造一条龙服务优势，争取海内外企业青睐。
不可讳言，推动AI有一重点，需要准确衡量算力。为此华硕从2019年起一路跟随NVIDIA等同业参与MLCommons组织，导入AI训练和推论评测指标，让客户可根据需求，选择具有最佳算力的产品。与此同时华硕努力精进韧体层、硬件层及信号传递，得以在诸多MLPerf Benchmark缔造佳绩，使客户能增强信心，确认只要善用华硕的GPU Server、NVIDIA HGX Solution，乃至终端的迷你PC或屏幕，即可达到理想的AI应用成效。华硕甚至自建大型语言模型，除部署到台智云的云服务外，亦支持On-permise布建，方便企业做进一步的调优，直接进行7B、33B甚或180B的Token运算。
透过一站式SASE服务，建立云网安融合优势
香港商第一线台湾分公司售前经理高沛辰，畅谈如何藉助公有云接入服务、云网安融合的一站式SASE方案，实现最佳云端营运策略。
近年数码转型、AI等议题延烧，但皆需以网安、联网效能为基底。为此第一线致力发展两大关键服务，首先是公有云接入，透过其MPLS核心骨干，再以专线方式协助客户接入各大公有云，营造优于Internet的连线品质。其次针对网安，有监于混合办公以及公有云／SaaS等趋势兴起，第一线期望提供企业比VPN更安全的存取模式，故结盟国际级领导业者，打造兼具SSE（Security Service Edge）、ZTNA（零信任网络存取）及SD-WAN（软件定义广域网络）完整元素的SASE一站式方案，使线上工作者能透过Internet安全地存取公司内部服务或云端服务，在效能与安全之间取得最佳平衡。
以ITSM及Low Code为核心，快速建立AIOps高效流程
叡扬信息系统直属事业处副处长张佑嘉，阐述如何利用全视化IT指挥塔，营造「观察（Observe）、判断（Engage）、移动（Act）」自动化AIOps流程，以简化复杂IT任务，提高效率并降低成本。
张佑嘉表示，综观IT人的日常，往往先Observe到某事件发生，再由人来判断该怎麽解决，此时需凭藉网络监控、DB监控、User反应…等多方来源，甚至查Change Log，才决定后续移动方案，如重启VM、加大磁碟空间或启动RPA等。显见中间Engage环节至关重要，需以完善的ITSM机制为依归。为此叡扬推荐采用ServiceNow工具，系因它能轻易做到Connect Everything、串连所需数据，减短判断流程，再利用平台所提供业界最丰富的CMDB与Webhook，辅以Low Code方式，快速做出任何你想要的Trigger，藉由SOP自动化方式，轻松排解各种IT维运难题。
援引科技电信能量，推动GenAI与安全应用
台湾大哥大企业服务新创服务发展处商务开发经理周谦程，分享如何以科技电信助力，帮助企业推展生成式AI与安全应用。
他指出「科技+电信」为台湾大哥大集团的双轴转型路径，其科技电信蓝图以可靠的通讯服务为基石，稳定支持媒体娱乐、移动商务与企业服务全面扩展。其中的企业服务团队，对生成式AI（GenAI）着力至深，不但用以改善集团对外服务，也从中累积丰富实务经验，懂得放大GenAI好处并解决幻觉、偏见等疑虑，可协助企业建构完善的GenAI应用环境。包括提供底层GPU超算力平台，以私有云交付整合繁中语料库的LLM，搭配历经AI 2.0国家平台、台湾大哥大ISO云端机房…等专案淬链的网安能量，汇聚成扎实的Best Practice，最终透过技术与顾问团队体现于客户专案。
