科技产业报订阅
断链之后
 

400个病历5万张图片 国网自动开关算力效率化资源

在任务型容器内设定执行时间,作业完成即自动退出,用多少算多少,节省开发成本。王聿泰

Amazon AWS、微软(Microsoft) Azure、Google 人工智能(AI)平台、NVIDIA等跨国企业都藉由云端运算或边缘运算等方式提供机器学习与深度学习的算力服务,而台湾本土也有类似的服务,财团法人国家实验研究院国家高速网络与计算中心(以下简称国网中心)也有建置高速运算的台湾AI云,提供国内产官学研医法政与新创团队使用。在使用上,到底有哪里些面向比较特别,这次也专门邀请到国网中心智能应用组组长王聿泰来与大家分享使用心得、与产业的互动经验。

三大类AI算力使用者 弹性共享算力资源

除了完成国网中心服务的申请步骤,包括iService的使用者帐号申请、绑定台湾手机门号、E-mail以外,更重要的是「根据使用的计算资源」与「三种身分」来启动服务计画,包括一、政府机构、二、业界、三、科技部计画。

在梅特卡夫定律(Metcalfe’s law)方兴未艾的年代,弹性与快速相当重要,王聿泰举科技部计画申请的情境分享说道,「1个小时之内,马上可用」,仅需在3个月之内完善经费申请流程即可。可见「缩减启用流程」也成了加速切入市场的关键。

除了一个帐号自己用以外,共同开发者、合作伙伴、老师学生之间也可以藉由新增附属帐号、电子钱包的系统,共享同一个帐号的算力资源。此外,为了优化使用者体验、降低重复登入的麻烦,iService与TWCC.AI的认证是互通的,也因此在切换时,无需再重复登入。

除了节点依场域设计和优化 算力资源自动开关提供经费最佳化

针对国网中心的超级计算机运算平台到底有什么特别?王聿泰举了一些数据供大家参考,比方说,起初平台就是以「超级计算机的规模来设计」,也成了最大亮点,跟NVIDIA的合作,也是多次调校正,根据国网中心的环境,调校到最佳状态。

与其它平台计算机之间联结为一般网络相比,国网中心的超级计算机之间则是用特别网络联结,在128个节点的串联之下,效能还能维持在90%以上,相较其它平台可能仅剩80%左右。使用上,使用者进到系统、点选调校后的系统、可以建立模型、拥有储存空间、上传资料到缓存的储存空间。

王聿泰补充说道,当使用者建立模型后,能将建立的环境储存起来,并建立特殊、个人化、微调的脚本,同时,系统更提供「自动开启与自动关闭」的服务,也有效最佳化使用费率。

自动开关的意思是,当工程师写程序时跑程序、数值分析软件,比方说,如果程序跑了1小时,软件已有结果,然而一般平台的画面会持续开著,那么以量计费来说,就会继续算钱,但国网中心的系统若是侦测到程序跑完,就会协助自主关闭,替使用者省下不必要支出的费用。

象是有个AI影像模型判读的案例,约400个病历与5万张512x512分辨率的图片,耗时1天的算力,牌价约新台币3.1万元;另一个案例则是800个病历与300张256x256的资料、800x60的资料,也1小时就算完,仅82元。王聿泰笑著说,光是想到DGX系统就要新台币400多万元,就能想象得出来,根据使用量收费,其实真的大幅降低运算成本。


延伸阅读:形塑医疗数据应用质量 国网中心IaaS接轨国际

蔡腾辉

DIGITIMES电子时报智能医疗主编蔡腾辉Mark Tsai
专注研究智能医疗产品技术服务导入场域时,所遇到的困难症结与如何克服要点。
精通中英德语,热爱挑战与Swing Dance。
Facebook:DIGITIMES智能医疗

作者更多专栏

  •     按赞加入DIGITIMES智能医疗粉丝团