透过神经网络加速器 助长嵌入式设备的AIoT效能

Imagination Technologies视觉及AI部门资深总监Andrew Grant。

伴随AI热潮延烧，加上Silicon密度不断提升、运算成本持续下探，Imagination Technologies视觉及AI部门资深总监Andrew Grant指出有一场革命正进行，肇因于移动消费者的需求骤增，导致专用神经网络加速硬件逐步进入大众市场；但他认为，「移动」并非神经网络与深学习所能扩展的唯一市场，而会无所不在地出现于人们日常生活。

「AIoT实现新世界，而背后重要的驱动力，即是低功耗嵌入式AI，只因它带动边缘运算兴起。」Andrew Grant说，所谓嵌入式人工智能，就是把AI演算法放进嵌入式设备；需要使用边缘运算的场景愈来愈多，遍布不同领域，譬如IoT领域的智能城市、智能建筑应用，汽车领域的自动紧急煞车、车道偏离警示等应用，及工业机器人领域的瑕疵检测、情境感知等应用。

综观AIoT应用题材，「智能汽车」无疑是最受瞩目的焦点，一旦透过AIoT串联车、云、城市基础设施(监控摄影机)、V2X/V2V各方信息，便可实时执行AI推论，完美实现先进驾驶辅助系统(ADAS)、自驾车等应用目标。Imagination已针对智能汽车需求，发展出可部署于汽车驾驶舱的PowerVR视觉及AI应用方案，其内含GPU、CPU及神经网络，可直接满足碰撞侦测、驾驶员监控、抬头显示器等功能需求。

Andrew Grant指出，从数码驾驶舱/HMI、ADAS推进到自驾车，意谓汽车对于确保安全性与可靠度的需要愈来愈高，相对来说，每辆车必须拥有的屏幕数量、IC数量及计算能力，同步呈现大幅飙升之势，因而带动GPU、神经网络加速器(NNA)的市场需求水涨船高，特别是NNA，可望为AI应用带来莫大的可扩展性。

Andrew Grant说明，之所以需要采用NNA，系因神经网络需要高带宽、高计算力的支持，而专用的NNA架构正是完美解决方案，最能符合SoC设计中最重视的成本效益原则。以Imagination最新款的PowerVR Series3NX而论，其效能小至0.6 TOPS、大到160 TOPS，支持范围甚广且性能甚高，可望促使各种嵌入式设备大规模采用 AIoT。