英特尔力推电脑视觉开发工具 加速AI在终端装置的应用

英特尔业务行销事业群企业解决方案协理郑智成表示，随着各种Framework的开放，台湾业者更应加紧脚步，善用这些现有资源与工具加速导入实际的AI应用。

AI人工智能是现下最热门的产业议题。然而，当人们专注于讨论深度学习演算法、云端数据中心等技术之际，终端装置的实际AI应用却仍付之阙如，业者对于着手导入AI应用也显得裹足不前。为了加速AI在终端装置的普及运用，英特尔日前推出了两款电脑视觉软件开发工具(SDK)，能够把视觉识别深度学习应用快速地带到电池供电装置以及现有广大的x86架构PC/IPC产品上，将能带动多样化的创新应用，并使更多业者获益于这波的AI革命。

英特尔业务行销事业群企业解决方案协理郑智成表示，AI技术其实已有近60年的发展历程，这波热潮的兴起，主要归因于深度学习演算法的突破，以及大数据与运算能力的提升，让数据的处理成本大幅降低。此外，Caffe、TensorFlow、CNTK、MXNet等Framework的就绪与开放，亦是重要关键，让更多人都能使用这项技术。

「但是，综观目前的产业现况，讨论Caffe、TensorFlow的人很多，但实际应用却才正在起步的阶段，这是因为缺乏相关工具，能把在这些Framework上训练好的模型实际付诸应用。」他强调。

推动AI边缘运算  实现落地应用

因此，除了多款芯片之外，英特尔亦开发多款程序库与平台，让这些Framework能够取得更好的效能。其中，英特尔提供两个重要的SDK，一个是电脑视觉CV SDK(Intel Computer Vision SDK)，另一个是Intel Movidius MDK，作为英特尔硬件芯片与深度学习实际应用的介接，支持各种Framework训练好的模型，因此能把推论功能快速带到闸道器或终端装置上。

Movidius处理器功率最低仅1瓦，可应用在电池供电的装置。例如大疆无人机DJI-Spark就是采用英特尔的Movidius Myriad 2视觉处理器以及在业界知名的框架上训练好的模型，能实现障碍物闪避、人脸与手势识别功能。此外，新款Google Clips迷你AI镜头，也是内含Intel Movidius Myriad 2视觉处理器，可直接于镜头终端进行实时AI与机器学习运算，提高图像识别与处理效能，在离线情况下也能随时捕捉生活中的精彩瞬间并编辑影像。

针对需持续供电的装置，则可利用CV SDK，把训练好的模型实际付诸应用。例如，英特尔与亚马逊合作的DeepLens为首款可编程的深度学习无线摄影机，内含Intel Atom X5处理器、Intel深度学习软件工具，及Intel深度神经网络Compute Library，能在摄影机终端上实时运行电脑视觉模型，支持云端环境中的AI模型训练与导入，可降低成本与实时回应，帮助开发者设计出更多AI与机器学习的创新应用。

郑智成表示，CV SDK的重要意义在于，它可支持Skylake架构以后的多款处理器，包括Pentium以及FPGA加速器。也就是说，现有广大的个人电脑、工业电脑、摄影机等各种产品，无须再采用特别的深度学习芯片，便能把云端训练好的模型转换为实际运用，让AI视觉识别应用能够真正落实在各种装置上，而不再是遥远的空谈。

在今年获得Google、亚马逊等指标性大厂的采用后，英特尔对于推动AI边缘运算市场更是显得信心十足。此外，在语音识别方面，英特尔也已开发了GNA芯片(Gaussian mixture model and neural network accelerator)与SDK，同样能以低功耗特性，将现今最热门的智能语音功能带到非常低功耗的装置，目前正寻求主要客户的采用。

郑智成表示，把AI推论功能带到终端装置势必会带动风潮，成为新一波AI运用的重点。这将推动AI在各行各业的普及使用，特别是对台湾业者来说，随着各种Framework的开放，业界已无需再投入巨额的成本与时间，从零开始来开发自己的演算法以及建置复杂的硬件架构来训练神经网络。台湾业者更应加紧脚步，考虑如何利用这些现有资源与工具，加速导入实际的AI应用。

以工业电脑为例，结合视觉识别功能就可支持自动光学检测(AOI)作业，而无须再购买专用设备来提升其制造品质。所以，即使是中小型业者也能以PC等级工业用电脑的价格负担得起AI应用，并能因此真正获益。这才是台湾业者应专注的策略，强化透过AI的实际应用来提升产业竞争力。

近来积极耕耘AI市场的英特尔，已建构了从云端到闸道器、终端装置的完整AI运算平台。郑智成指出，这波的AI复兴，主要是利用神经网络演算法，在训练与推论方面实现了重大的突破。但是，在深度学习的训练方面，神经网络与传统IT数据的规则式概念截然不同，一旦需要加入新的识别对象或情境，需要再花长时间重新进行训练，才能加入新的识别能力。

因此，他相信，未来云端技术还会有很多演进，来缩短训练时间，让AI应用更有效率。而对英特尔的布局来说，在云端数据中心，仍将强化Xeon的布署，并运用Nervana平台作为训练加速器之用；至于FPGA，则能广泛运用在云端作为推论加速之用；而在终端装置，则将透过SDK支持更广泛的Framework以及topology，来开拓新的应用。

郑智成总结道，AI深度学习神经网络技术其实涵盖了很大的范围，除了演算法的开发，包括数据的收集与标注、分析与前处理等都还是需要CPU来处理。英特尔身为领先的芯片业者，致力在其中找到各种机会，并强化与学术界的研发合作，从各个层面来推动AI应用的创新与落实。