发挥多重架构优势 Intel满足多样化AI视觉需求

Intel OpenVINO解决方案。

把AI电脑视觉功能带到各类IoT边缘装置是目前业界最热门的应用之一，而且需求横跨所有的垂直市场，包括零售、工业、企业、智能城市、FinTech等。为了满足各种使用案例的不同设计考量，并为边缘装置提供最具成本效益与功率效益的AI推论功能，很难以单一硬件架构来满足所有的需求。

有监于此，Intel建构了包括CPU、iGPU、FPGA和VPU等多重硬件架构，并透过结合强大且丰富的软件资源、以及与生态系统夥伴合作开发多种不同外型尺寸、主机界面以及处理器组合的视觉加速器模块，可提供完备、具扩充性的解决方案，以协助开发人员与IoT设备制造商因应多样化的应用需求，并快速地将其产品升级至支持AI视觉功能，进而加速智能边缘装置的实现。

AI视觉无所不在　单一架构无法满足所有需求

根据统计，全球有超过八成的IP流量是视讯内容。因此，在全新的数据驱动时代中，若要赢得市场，就必须掌握电脑视觉以及识别分析技术，才能把大量的视讯数据转换为获利来源，而此趋势也已带动了AI视觉应用在各产业的蓬勃发展。

尽管我们可预见AI视觉应用将无所不在，然而，现今业者在开发时常面临的挑战是，在从传感器、装置、到数据中心的端到端建置中，AI深度学习功能应该部署在哪个环节，不同的垂直市场会有不同的设计考量，目前还很难找到已知的最佳配置(best known configuration)。因此，尽管AI视觉应用前景看好，但必须确切掌握开发智能边缘装置的问题与需求，才能真正实现商机。

此外，在端到端的AI视觉建置中，会涉及数据处理、显示、推论、神经网络(包括CNN、RNN)等各种运算需求，且须考虑应用对于处理器、I/O、以及存储器的不同需求，才能决定何种硬件架构是最佳选择。

对此，业者需要更具灵活性的硬件架构，来满足终端产品对于效能、功耗及成本的不同需求，仅采取单一架构，势必无法满足所有需求。举例来说，在公车站亭的电脑视觉应用，仅需计算人数，不用进行准确的年龄、性别识别。这类应用由于运算负载较低，再加上空间与散热考量，嵌入式解决方案足以支持，无需采用高端GPU。而网络监控器、边缘服务器等装置则会需要效能较高的处理器，才能满足高端深度学习负载的需求。

因此，在AI视觉的端到端建置中，每个环节都有可能需要AI功能，需要利用不同的硬件架构才能提供最佳化效能。对Intel来说，除了既有坚强的CPU产品组合之外，还可提供iGPU、FPGA以及VPU等硬件架构，是市场上极少数拥有完备端到端视觉运算架构的业者，能够灵活因应各种AI视觉应用对硬件的不同需求。

简化开发工作　OpenVINO工具套件扮演要角

凭藉着拥有完备的硬件平台，业界对于Intel在AI市场的部署有高度期待，Intel也致力于以开发者的角度来协助业者加速AI应用的开发。因此，除了灵活的硬件架构可供选择之外，要加速AI视觉在边缘装置的落地应用，强大、易用的开发工具更是不可或缺。为此，Intel已推出OpenVINO (Open Visual Inference & Neural Network Optimization)开放式工具套件。

此套件包含Intel深度学习部署工具套件，具有模型最佳化器、推论引擎，以及针对OpenCV和OpenVX的最佳化电脑视觉库，并支持TensorFlow、MXNet、Caffe等主流学习架构。此外，OpenVINO还提供许多预先训练过的模型、丰富的演算法，让开发人员可以方便取得并进行测试，无须自己到开放社群中耗费时间找适当的资源。

更重要的是，OpenVINO已针对Intel的各种硬件平台进行最佳化设计，开发人员撰写的AI演算法可适用在不同硬件架构上，而且若采用不同的架构，仅需重新编译，不用再重新撰写。这意味着，利用OpenVINO，开发人员能够以单一工具套件支持不同的学习架构与硬件架构，以确保目前与未来 Intel硬件都能基于端到端架构，快速、顺畅地进行部署。这将能大幅简化开发人员的工作，并且以极佳的灵活性解决了目前业界不易找到已知最佳配置(BKC)的难题。

携手生态系统夥伴　推出完备的视觉加速器设计产品

此外，Intel与台湾五家生态系统夥伴合作，已开发出一系列的视觉加速器设计(Vision Accelerator Design)产品，包括PCIe、mini PCIe、以及M.2等不同的外形尺寸，这些板卡可提供多款Movidius VPU、FPGA以及CPU等处理器的组合，能够以具备各种效能、功率与成本组合的完备解决方案来满足从零售POS终端、穿戴装置、到PC、工业设备、以及服务器等各种装置对电脑视觉以及深度学习功能的不同需求。

随着这些产品的就绪，相信很快地，将能看到AI视觉在各类装置上的普及应用。特别是，台湾是IoT装置的生产重镇，有高达七成以上基于Intel架构的闸道器来自台湾，是Intel非常重要的合作夥伴。而此做法正是从嵌入式业者以及solution-centric的角度出发，透过提供多样化的模块化产品，再配合功能强大OpenVINO工具套件，能协助更多的嵌入式业者跨入AI应用。

对广大的ODM/OEM业者来说，视觉加速器设计产品带来的效益是显而易见的，除了加速创新之外，还能提供广泛的兼容性，这些模块均能与现有装置兼容，使市场上各式各样的Intel-based嵌入式以及PC产品都能快速地升级至支持AI视觉功能，加速智能边缘装置的实现，还能进一步扩展，为边缘装置、闸道器与云端建置最佳化的视觉解决方案。了解更多的Intel AI@IOT edge的软硬件解决方案，请参考官网。