SEMI
Advantechline
 

Imagination力推神经网络加速器 实现AIoT边缘运算

Imagination业务开发资深总监Andrew Grant。

看好AI与IoT汇聚为边缘装置带来的庞大商机,以PowerVR GPU在行动装置市场占有一席之地的IP业者Imagination科技公司,近来积极部署神经网络加速器(Neural Network Accelerator;NNA)产品,并强调以专用硬件的方式来执行AI神经网络运算,才能为汽车、工业、行动等各种智能应用的边缘装置实现所需的功率、效能和成本。

Imagination业务开发资深总监Andrew Grant表示,AI已经有很长的发展历史,但近年来受惠于芯片运算密度提升、运算成本降低、以及卷积神经网络(CNN)、循环神经网络(RNN)等技术的长足进展,带动了AI应用的全新发展,并从行动装置扩大到汽车、工业与机器人、智能监控、汽车等各种市场。

特别是,伴随著IoT的发展趋势,AI可透过机器学习功能提升IoT装置的价值,把收集到数据转为有用的信息,而IoT则可透过互连与资料交换为AI增加价值,两者的互补将能发挥最大效益。而在带宽、反应速度与隐私的考量下,把AI推论功能带到嵌入式装置,实现所谓的边缘运算将是必然的趋势。

Andrew Grant介绍了利用NNA实现高效能边缘运算的使用案例。以智能汽车为例,透过结合汽车上各种传感器与雷达,以及通讯基础架构、云端运算,可实现V2V或V2X应用,并逐步朝自动驾驶目标迈进。针对电子驾驶座舱(e-cockpit),PowerVR GPU和NNA已广泛应用在道路标志侦测、导航、车道偏离警示、环景影像、后视镜替代等各种新功能中。

在智慧城市,AIoT装置更将无所不在,从各种公共场所所需的脸部辨识、物件侦测、交通监控、可疑活动/人物监控、到智能工厂运行管理、办公室安全等各种应用正蓬勃发展,而其中,透过AIoT装置来进行感测、资料收集、传递与分析是实现智慧城市愿景的要件,这将能为现有以及新兴的半导体业者带来极大的商机。

所有这些使用案例的设计,从一开始就需要考虑安全性和隐私。Imagination的GPU可提供虚拟化(virtualization)功能,把GPU分割为不同优先等级的虚拟机(VM),确保执行重要汽车应用时的功能安全性。

相较于CPU、DSP等架构,Andrew Grant表示,GPU具备高度灵活性、标准化的运算API,并支持浮点与整数运算等优势,而其NNA则是可配置的,能以特定领域的灵活性提供最低功耗,GPU与NNA的结合是把AI功能带到边缘装置的最佳组合。因为,随著客户对于边缘装置上所需的AI功能已渐趋明确,须改以专用硬件架构来取代市场发展初期以软件执行的方式,才能获得最佳的效能、功率与成本。

目前,Imagination已为其PowerVR 3NX NNA产品线建立了完整的效能组合,从支持穿戴装置的0.6 TOPS,一直到汽车与高阶监控装置所需的160 TOPS均已备齐,可支持包括Caffe、TensorFlow等常用神经网络的加速运算,以满足多样化AI应用的规格需求。此外,Imagination亦将强化与大学、合作伙伴的关系,致力于建立坚强的神经网络生态系统。

2019 COMPUTEX展期间,DIGITIMES将于5/30(四)假台北君悦酒店举办2019 COMPUTEX TAIPEI - 全球物联网创新开发论坛,并由Imagination业务开发资深总监Andrew Grant领衔主讲「Enabling the Edge: Neural Network Acceleration for smarter cities, cars and cameras」,如欲了解更多PowerVR GPU与NNA如何加速物联网的广泛应用与最新技术发展,欢迎即刻报名共创商机:https://www.digitimes.com.tw/seminar/DForum_20190530/

  •     按赞加入DIGITIMES智能应用粉丝团
更多关键字报导: Imagination Technologies GPU运算 GPU AIoT