掌握AI新趋势脉 迎向未来黄金商机 智能应用 影音
Wolfspeed
litepoint

掌握AI新趋势脉 迎向未来黄金商机

  • 郑斐文DIGITIMES企划

台达研究院院长阙志克。DIGITIMES摄
台达研究院院长阙志克。DIGITIMES摄

Taiwan AI EXPO 2022不知讲堂第二天延续第一天知识飨宴,探索你我有所不知的AI奥妙。由台达研究院院长阙志克的「从AI 1.0到AI 2.0,我们将走向何方」演说揭开序幕。

进入AI 2.0时代 该留意哪些议题?

人工智能科技基金会常务董事詹婷怡。DIGITIMES摄

人工智能科技基金会常务董事詹婷怡。DIGITIMES摄

国立成功大学客座教授林伟棻。DIGITIMES摄

国立成功大学客座教授林伟棻。DIGITIMES摄

台湾大学电机工程学系副教授李宏毅。DIGITIMES摄

台湾大学电机工程学系副教授李宏毅。DIGITIMES摄

开必拓数据CEO孙逢佑。DIGITIMES摄

开必拓数据CEO孙逢佑。DIGITIMES摄

咏鋐智能(Chimes AI)CEO谢宗震。DIGITIMES摄

咏鋐智能(Chimes AI)CEO谢宗震。DIGITIMES摄

台湾塑胶工业保养中心组长郑琦聪。DIGITIMES摄

台湾塑胶工业保养中心组长郑琦聪。DIGITIMES摄

宜鼎国际总经理特助张献文。DIGITIMES摄

宜鼎国际总经理特助张献文。DIGITIMES摄

华邦电子DRAM产品行销部经理曾一峻。DIGITIMES摄

华邦电子DRAM产品行销部经理曾一峻。DIGITIMES摄

阙志克表示,这波风行的AI,是基于深度神经网络(DNN)的机器学习(ML),所谓ML,即是找出输入到输出的映射关系。5年前此事还算新奇,但如今得力于可用的开源工具众多,以致大部分的人都懂得操作ML。

AI从2012年开始盛行至今近10年,已培养越来越多人才,彼此的技能差不多,越来越难分出高下;展望今后从AI 1.0推进到AI 2.0时代,竞争主题将如何演变?阙志克认为有几个议题值得留意,首先是AI训练过程的自动化,譬如人们可透过AutoML,自动探索DNN架构与调校超参数。

其次是小数据的ML,你只要给我高品质数据,哪怕数量上仅有传统训练流程的1/10,都足以执行训练,尤其适用于制造业瑕疵检测场景。再来是可解释的AI(Explainable AI),过去AI模块只告知结果、不解释判断依据,但今后有越来越多应用需要探究个中逻辑,例如有人申请贷款遭拒,总是需要知道理由,才能加以改善。

接着为AI安全议题,重点不在于防范黑客侵入AI系统,而是确保AI模型不会遭人盗版,或在使用MLaaS的同时、确保云端业者无法窥视其中训练数据。

此外大家应留意新型DNN架构,如在自然语言处理上展现重大突破的GPT-3,有逾1,700亿个参数供人调用,以致AI模型只要看过够多的字,有足够的运算资源支持,即可在一秒内产生深具内涵的文章;后续不只从字产生字、产生图像,甚至有机会产生Computer Code。

建构可信任AI  实为当务之急

人工智能科技基金会常务董事詹婷怡,抛出值得省思的议题,非科技相关的人如何看待AI?重点在于「信任」;必须透过规范、标准或Guideline,将「可信任AI」建构起来。

她指出,AI是重要的数码转型工具,可创造许多产业价值;但AI若不能取信大众,恐形成发展阻碍。针对如何营造信任,她提出几点建议。第一在系统设计阶段即需融入安全考量,不能只求事后防范。第二,IoT安全、执法、网安社群等团体须对话与协作。第三应重视AI和IoT的数码足迹及隐私保护。更重要的,任何形式的联网装置,从研发、传输、数据收集、数据保护到装置等多层次议题,皆与如何建立可信任AI有所关联。

AI如何规范?不少人主张应赶紧立法,但这未必是最佳方式;只因科技一夕数变,任何规范若不是基于一个可能的原则,徒然限制太多,反倒会阻碍创新。如何形成与时俱进的原则?有赖科技、非科技的群体共同对话,讨论出适当的AI纪律或指引。

综观国际上AI规范,詹婷怡点出欧盟执委会所成立的「人工智能高级专家组」,其中包含技术专家、法律、社会学、社群公民等代表,透过彼此对话,才产生包含人类自主性和监控、技术稳健性和安全性…等7个「可信任AI」构成要素;其经由对话来形成AI规范的机制,颇值得台湾借镜。

迈向跨域整合应用 开启Edge AI新契机

国立成功大学客座教授林伟棻表示,在吴诚文前副校长、敏求智能运算学院院长谢明得的带领下,汇聚5G Edge AI、移动社群软件及应用,为110全大运增添了类似奥运的「Fan Engagement」实时转播元素,在赛道上叠加多项信息,让观众更清楚观赏运动选手的核心技艺,缔造台湾大型运动赛事的新典范。

林伟棻指出,110全大运背后有一个复杂的SoS(Systems of Systems)架构,整合许多科技业者的单一系统,变成一个更大型的系统,分布于成多个不同的Layer,由学校及业者们协同设计,克服诸多异质整合难题,尝试将5G Edge AI转变为可望在实现商业获利的契机。

过去台湾产业擅长做系统或芯片里头的元件,但若想要有更佳的获利前景,必须走向系统整合、跨域应用的道路。为此成大开始发想国际合作的可能性,假设在一个场景上,观众们人人都佩戴AR/VR/MR眼镜,有望汇集每个人产生的不同视觉数据,开启另一个新型态Multi-Edge运算平台,形成非常巨大的创新应用发展潜能。

林伟棻特别提醒,在Edge AI的创新发展过程中,「联盟式学习」是值得关注的关键技术,它与传统分散式AI有所不同,可将原始数据留在受保护的边缘装置,仅需汇聚各单位的在地训练结果,就能产生大型的训练成果,进而让AI的价值定位,从工具、助理、夥伴再进化至管理者,帮助人类做出更具智能的决策。

自督导式学习 展现三大惊奇

台湾大学电机工程学系副教授李宏毅表示,以往大家依赖督导式学习技术,来发展诸如语音识别、机器翻译等应用,惟需要收集多达10万笔声音信号、再耗时产生大量标注数据,徒增AI落地困难。

因此越来越多AI研究人员开始拥抱自督导式学习新模式。它只需搭配大量无标注数据,即可为机器执行预训练、培养基本能力,尔后再结合少量标注数据并适度微调,便能让机器快速学会执行不同任务。

更有甚者,以自然语言处理为例,用户只要从网络上收集大量文章,即可展开预训练,打造出能够「自问自答」的BERT模型,借此过程快速学会判读人类语句。

但问题来了,BERT是一个巨大模型,要训练到它具备自问自答能力,其实是浩大工程。为解决此问题,李宏毅和其他学者共同打造SUPERB基本语料库,让BERT可轻易运用在各种自然语言处理或语音处理任务上,使每次训练不需再喂进等同于3千套哈利波特全集的庞大文字量。

后来李宏毅从自督导式学习发现三大奇蹟,包括「跨语言」,如只学过英文却能识别中文;其次是「跨学科」,学过语言后,竟具备蛋白质分类、DNA分类能力;再者「没做语言训练却具备基本能力」,仅用人工规则生成数据、一堆数码符号做训练,之后却能处理自然语言任务,显见自督导式学习潜力无穷、值得持续研究。

利用AI/ML助长企业竞争力

AWS AI/ML产品经理郑芝郁说,进入新经济时代,我们需要透过数据,协助挖掘更多有用信息,以提升用户体验、决策速度和品质及营运效率,并开创新产品与服务。

Amazon主要善用AI/ML优化用户体验,以促进营收成长。以Pan-European FBA为例,即透过AI/ML预测欧洲各国每日需求,进而调配库存,好让卖家仅需寄一份库存至FBA,就能销货到各国,降低备货门槛。

与此同时,AWS也提供多项AI/ML服务,协助全球逾10万客户驱动业务创新。例如东南亚电商Pomelo Fashion,利用Amazon Personalize进行行销名单圈选、提供个性化内容推送,使整体CTR点击率提升20%。此外Foxconn墨西哥工厂借助Amazon Forecast服务,有效预测产线需求并调配产线人员配置,每年因而节省55.3万美元。

启动数据思维  深化AI的经验价值

开必拓数据CEO孙逢佑强调,欲启动AI、须有数据思维,而数据思维即是经验思维;随着数据的累积,可促使AI展现越来越高的价值。

此外开必拓秉持「以始为终」原则,以客户想要实践的目标(如快速精准的瑕疵检测)为导向,做出具一定完成度的AI,后续随着经验愈趋丰富,使AI逐步迈向完美。透过这般过程,开必拓协助制造业客户省本增利,节约80%检测时间、减少92%客诉。

惟鉴于部分场域所需识别的物件极为多样化,单靠开必拓再怎麽设计,都不足以应付多变需求;因而与客户、设备业者三方互补合作,形成「同行致远」效应,让AI最终得以实现流程改善目标。

从设备智能诊断出发  落实永续经营目标

咏鋐智能(Chimes AI)CEO谢宗震表示,企业可善用AI技术来建立智能监控、报表管理机制,从能源管理、厂务节能、预防保养、制程优化等面向加速实现ESG。

惟传统AI应用开发流程漫长且难以扩展,导致企业在迈向智能永续制造时遭遇阻碍。Chimes AI自许为制造业AI军火库,透过企业级「No Code」AI平台、友善UI设计,让AI更易于复制与扩展,帮助企业快步从0到1、从1到N,达成永续经营目标。

台湾塑胶工业保养中心组长郑琦聪也现身说法,阐述如何透过Chimes AI协助打造AI模型维运系统,使模型校正时间从原本1.5天骤减为1小时,从而针对冷却水泵、压缩机、风车等重要厂务设施建立智能监诊机制,以提高设备稳定度,降低工安与环保冲击。

借助边缘运算 加速企业AI落地

宜鼎国际总经理特助张献文说,近年各方关注AI,也带动AI边缘运算设备蓬勃发展。故宜鼎体认Edge AI已成趋势,为此加强布局。

宜鼎有感于不同领域客户,皆对AI有所需求。为协助客户加速AI落地,着手强化软硬件整合,透过旗下AI iCAP云服务提供iSeries Software Tool / SDK,可针对不同模块埋入软件,方便SI抽取模块中数据、整合到他们的系统。

此外宜鼎也在AI iCAP中间层提供iVINNO,协助进行GPU、FPGA、ASIC异质化整合,让客户加速测试与部署AI应用。

另值得一提,近年宜鼎力推双频管理,已针对OOB频外管理部分发展创新应用,例如以InnoAgent模块化方式,协助系统商轻易实现OOB设备的线上快速还原,有助AI软件公司进行包装与加值。

终端AI崛起 存储器角色益发吃重

华邦电子DRAM产品行销部经理曾一峻指出,Edge/Endpoint AI模型尺寸不大,但欲进行快速计算,仍需倚靠较大存储器带宽来支持,故华邦特别推出对应产品。

近年大家思考能否利用手边终端装置或传感器承载AI?几十MB模型虽不大,但对MCU仍显沈重,以致有人提出TensorFlow Lite,将AI模型压缩上百上千倍,使之运行于在MCU,支持如智能门铃、智能门锁等简单AIoT装置的推论。

曾一峻说,早年存储器屈居绿叶,但在AI时代已摇身变为主角,只因要应付Access Traffic需负担。为求改善,华邦持续精进GP-Boost DRAM产品线,新增HyperRAM产品,容量介于4~32MB,足以支撑经过压缩的小模型,而带宽效能达250MHz,并支持16个I/O,要执行某些简单推论并无问题。

总之,遥望AI的大未来,还有许多值得我们持续探索、精进的空间。企业唯有掌握AI技术趋势、培养更完善的决断能力,才能真正驾驭AI、将智能应用触角伸展到各营运构面。


关键字