【高速运算应用-学研之星】HarDNet类神经骨干网络成功开发 深耕AI加速器硬件技术

清华大学资工系林永隆教授(右8)与团队成员

科技部的「半导体射月计划」一共有17个团队获选，其中人工智能硬件加速器的发展，有了崭新又令人雀跃的成果发表，这个为期四年由清华大学资工系林永隆教授所领导的深度学习加速器硬件技术专案，技术团队除了清华大学之外，还网罗交通大学与中原大学，一共6位教授，并带领30位研究人员，已进行约两年半的时间，于11月18日在科技部召开记者会，并由各团队成员做现场的成果展示。

林永隆教授接受访问时，清楚的指出该计划是要做一个更快速、更准确、更省电与更安全的硬件加速器技术，同时在GPU、CPU、FPGA甚至是MCU的跨平台系统下皆可部署，如此一来才能大量普及，这个新开发的高效率CNN网络的架构称为「HarDNet」。其改良了传统网络的架构，减少架构中的捷径连结，来降低存储器搬运次数，借此达到提升运算速度的效果，且同时能维持高识别准确率，目前在影像识别、物件识别、特徵诊断等领域，展现强大的效益，当初为了找出技术的突破瓶颈时，在研究过程中，发现从网络基础架构上着手改善，自此有了全新的出发点。

HarDNet形塑更快速、更准确、更省电与更安全的硬件加速器技术

今时HarDNet所展现的效益，超越知名的DenseNet或ResNet的网络架构，尤其搭配诸如SSD、RFB、CenterNet等演算法，能更快更准确地执行影像的图像分类 (Image Classification)、图像语义分割 (Semantic Segmentation)，以及物件侦测与追踪(Object Detection/Tracking)等广泛的应用与功能，目前的技术团队已成功将HarDNet应用于包括GPU、智能手机(CPU/DSP)、Raspberry Pi与FPGA的运算平台上。

林永隆团队将HarDNet放在开源软件平台如GitHub上分享各界使用，推广到全球，目前该团队提出13项专利申请，其中已经有5项获得专利，同时初步获得新台币400万元的技术移转收入，在论文提交上的斩获也不遑多让，在AI学术界的顶尖会议如ICCV、AAAI、ICML等发表多篇成果。

这个专案开发需要庞大且反覆的CNN骨干网络进行训练模拟，透过国网中心的TWCC (Taiwan Computing Cloud)高速运算资源，以高性能GPU且同步运算方式，让CNN网络的运算与验证效率大幅改善，TWCC平台提供珍贵的资源，贡献重要的价值，让研发团队可以快速掌握进度。

加速台湾AI新创公司的成立，期待2021年正式产品上市初试啼声

这些现场展示的平台中，可以看到HarDNet新型网络架构做为骨干网络的效能，提供在GPU、FPGA、Raspberry Pi、LG G8 智能手机等不同的硬件平台上都展现一致性的高效率与省电的强大优势，林永隆教授认为学术团队的全方位合作，搭配科技部与国网中心投注的资源，成就一般方法所做不到的成果，同时透过开源软件的开放学习与自由创意的研究氛围，让这个计划具有长远的发展契机。

目前已经有团队内先期研究人员透过技转而成立的「创鑫智能」新创公司，其首批开发的矽智财将整合于SoC芯片中，初步以高端智能语音识别与处理的应用，即将于2021年中将在市场上初试啼声，未来与产业界的互动将会更为密切积极，让HarDNet技术可以为台湾产业界做出更大的贡献。