Imagination力推神经网络加速器 实现AIoT边缘运算

Imagination业务开发资深总监Andrew Grant。

看好AI与IoT汇聚为边缘装置带来的庞大商机，以PowerVR GPU在移动设备市场占有一席之地的IP业者Imagination科技公司，近来积极部署神经网络加速器(Neural Network Accelerator；NNA)产品，并强调以专用硬件的方式来执行AI神经网络运算，才能为汽车、工业、移动等各种智能应用的边缘装置实现所需的功率、效能和成本。

Imagination业务开发资深总监Andrew Grant表示，AI已经有很长的发展历史，但近年来受惠于芯片运算密度提升、运算成本降低、以及卷积神经网络(CNN)、循环神经网络(RNN)等技术的长足进展，带动了AI应用的全新发展，并从移动设备扩大到汽车、工业与机器人、智能监控、汽车等各种市场。

特别是，伴随着IoT的发展趋势，AI可透过机器学习功能提升IoT装置的价值，把收集到数据转为有用的信息，而IoT则可透过互连与数据交换为AI增加价值，两者的互补将能发挥最大效益。而在带宽、反应速度与隐私的考量下，把AI推论功能带到嵌入式装置，实现所谓的边缘运算将是必然的趋势。

Andrew Grant介绍了利用NNA实现高效能边缘运算的使用案例。以智能汽车为例，透过结合汽车上各种传感器与雷达，以及通讯基础架构、云端运算，可实现V2V或V2X应用，并逐步朝自动驾驶目标迈进。针对电子驾驶座舱(e-cockpit)，PowerVR GPU和NNA已广泛应用在道路标志侦测、导航、车道偏离警示、环景影像、后视镜替代等各种新功能中。

在智能城市，AIoT装置更将无所不在，从各种公共场所所需的脸部识别、物件侦测、交通监控、可疑活动/人物监控、到智能工厂运作管理、办公室安全等各种应用正蓬勃发展，而其中，透过AIoT装置来进行传感、数据收集、传递与分析是实现智能城市愿景的要件，这将能为现有以及新兴的半导体业者带来极大的商机。

所有这些使用案例的设计，从一开始就需要考虑安全性和隐私。Imagination的GPU可提供虚拟化(virtualization)功能，把GPU分割为不同优先等级的虚拟机(VM)，确保执行重要汽车应用时的功能安全性。

相较于CPU、DSP等架构，Andrew Grant表示，GPU具备高度灵活性、标准化的运算API，并支持浮点与整数运算等优势，而其NNA则是可配置的，能以特定领域的灵活性提供最低功耗，GPU与NNA的结合是把AI功能带到边缘装置的最佳组合。因为，随着客户对于边缘装置上所需的AI功能已渐趋明确，须改以专用硬件架构来取代市场发展初期以软件执行的方式，才能获得最佳的效能、功率与成本。

目前，Imagination已为其PowerVR 3NX NNA产品线建立了完整的效能组合，从支持穿戴装置的0.6 TOPS，一直到汽车与高端监控装置所需的160 TOPS均已备齐，可支持包括Caffe、TensorFlow等常用神经网络的加速运算，以满足多样化AI应用的规格需求。此外，Imagination亦将强化与大学、合作夥伴的关系，致力于建立坚强的神经网络生态系统。

2019 COMPUTEX展期间，DIGITIMES将于5/30(四)假台北君悦酒店举办2019 COMPUTEX TAIPEI - 全球物联网创新开发论坛，并由Imagination业务开发资深总监Andrew Grant领衔主讲「Enabling the Edge: Neural Network Acceleration for smarter cities, cars and cameras」，如欲了解更多PowerVR GPU与NNA如何加速物联网的广泛应用与最新技术发展，欢迎即刻报名共创商机：https://www.digitimes.com.tw/seminar/DForum_20190530/。