qct
社团法人台湾电子设备协会
 

TWCC 助新创团队迅速累积资源、巩固创业基地

TWCC台湾AI云Workshop解决使用伙伴技术上的疑难杂症。

无论从事AI、影像辨识、大数据、云端服务或IoT的新创团队,皆需仰赖大量运算资源,筹措资源的过程艰辛,为此国家实验研究院国家高速网络与计算中心(以下简称国研院国网中心)提出TWCC台湾AI云,期望做为新创的后盾。

近期国研院国网中心启动「TWCC星创争霸」活动,规划在北中南举办五场Workshop,引领新创界人士深入理解TWCC云端服务内涵;日前于8月21日台北场率先开跑。

汇聚国家级云算力,做为产业新创的超强后盾

国研院国网中心企划推广组营销总监李君伟指出,国研院国网中心成立初期着重为学术研究单位提供超级计算机运算资源,近年将范围延伸到新创及产业。TWCC根植于「台湾杉二号」,拥有全东南亚最大的AI运算GPU超级计算机资源,提供容器计算、丛集计算和虚拟化计算三大服务架构,并由台中、新竹与台南等机房串起全国服务网络。

此外TWCC具备「在地」(低延迟网络、本地技术支持、数据落地自主管理)、「创生」(为新创提供POC、POS、Production各种方案支持)与「信赖」(国家级战略基础设施)三大特色,且蕴含快速、简单、易用、高效之设计理念。

国研院国网中心云端平台营运组副组长也是台湾杉二号/TWCC总架构师卢鸿复表示,TWCC以超级计算机为重要元件,把GPU计算环境云端化,后面包含整串云端服务。使用者登注册iService服务网,登入TWCC,接著选择需要的各式GPU环境规格、甚至可以透过CLI工具完成DevOps操作,短短几分钟内就可获得想要的运算环境。

卢鸿复以ResNet-50为例,于活动中展开Demo。从选用TensorFlow映像档、决定GPU数量,到开启 JupyterNotebook 使用预先写好的 Python 程序,3分钟产生计算结果;相较于使用者在自家环境以消费级GPU来执行同等任务,效能上至少快3.5倍。以ResNet-50的模型训练工作为例,TWCC的资料中心级GPU效能比起消费级的GPU可以将单一模型的正式训练工作从数天缩短到8小时内。也就是说下班前把训练工作投入TWCC,隔天上班就可以收获训练好的模型。TWCC的巨量GPU资源甚至可以让资料科学家一个晚上同时完成多个模型的训练工作。

「许多AI新创曾面临挑战,虽购置多台机器、却无法统整这些资源,」卢鸿复说,即使公司愿意花钱购买高阶工作站机器、甚至做了虚拟化,仍经常碍于配置不佳,让使用过程流于繁复,造成公司内资料科学家、资料工程师耗时处理机器琐事,难以创造有效率、有质量的产出。这样的专业人力浪费,是很多新创公司的盲点与痛点。透过TWCC服务,可直接引用已就绪的环境,使资料科学家可以专注在分析主题上。让资料科学家争取时效,处理更多题目、产出更多模型。更高、更专注的工作效率正是TWCC要提供给客户的重要价值之一。

凭借最佳GPU使用环境,提升创新创业效率

来自国研院国网中心TWCC团队的工程师赵逢毅博士强调,TWCC是全台最多GPU的农场(超过2,000 GPU),已调校最佳环境,不仅能支撑大计算量,更因掌握公领域、公开授权的巨量资料集,堪称绝佳的大数据处理环境。

为验证TWCC能耐,国网团队曾进行大尺度的实验。锁定全台高速公路1,488支实时影像摄影机,开发大数据分析平台、AI训练建模环境,为每一支个别摄影机建立个别的车速预测模型,总共1,448个AI模型以实现高速公路全线的车速预测目标;最终得出模型切换时间为2.0367秒、实际预测时间为0.364秒,等于2.5秒内产出预测成果,效率优于高公局提供的数值(每分钟 1 次)。

赵逢毅博士另点出TWCC几个关键价值,包括与NVIDIA密切合作,营造出较一般环境高出逾3倍的混合精度运算效能、TensorCore效能,也打造出NGC最佳化环境。

值得一提,此系列Workshop邀请新创伙伴进行案例与使用经验分享,以台北场活动为例,讲者包括康健基因科技副执行长王威霁、华硕云端产业合作发展总监黄世民。

王威霁以第三代定序仪Oxford Nanopore为基础,阐述该公司如何善用TWCC资源,结合Nanopore进行COVID-19病毒株定序并完成后续资料分析。从样本处理、萃取核酸、建库、上机,接著进行Data QC、Genome Assembly、Annotation、Phylogenetic Analysis,整体执行时间压缩在14小时内,可确认COVID-19患者的病毒感染源最趋近那株已知的病毒株, 是否有产生新的变异并预测变异是否具有功能性。

至于黄世民,则阐述其基于TWCC催生智能应用生成及营运框架,进一步孕育智慧城市智能服务生成平台(SCCP),形成Smart City 3.0建置概念,标榜可运用智能科技活用数据资源,满足并融合市民、产业与地方到中央政府多元「高度差异化」需求,且能造就一套「活的系统」,藉由导入、验证、创新、调整、反馈、改善等循环不止的循环,带动市政服务持续创新与改进。

总括而论,TWCC已发展出成熟技术且做到极致,而且在台落地深耕、没有敏感数据的合规风险,得以满足新创所需之商转动能,效益价值更胜国际公有云。(林佩莹整理报导)


  •     按赞加入DIGITIMES智能应用粉丝团
更多关键字报导: 国网中心