FPGA让边缘运算更具弹性 Xilinx提升客户AI开发优势

安富利台湾主任应用工程师陈豊縜。

为提升嵌入式系统的运作效能，边缘运算成为科技产业近年来的重要趋势，不过AI技术的演进快速，边缘运算架构若不能快速随之调整，将难以符合使用者需求，对此安富利台湾主任应用工程师陈豊縜指出，FPGA的弹性化特色将可协助工程师解决此一问题。

陈豊縜在「使用Xilinx快速部署AI边缘装置」议题演讲中先介绍FPGA。她表示FPGA的中文为现场可程序逻辑闸阵列，其芯片由逻辑电路组成，使用者可将撰写程序烧录于FPGA芯片中，借此定义电路连线以生成专用IC，由于此种烧录非一次性的，而是可重覆烧录程序，因此多数IC设计业者会先以FPGA完成IC功能验证再投入ASIC，以减少失败机率。

除了上述功能外，在少量多样或上市压力巨大的领域中，业者也会以FPGA取代ASIC，AI的各垂直应用市场就兼具上述两大特色。陈豊縜指出，近年来AI的应用领域快速增，不同AI演算法不断推陈出新，其创新周期甚至比专用IC的设计验证周期流程更快，再加上不断变化的工业标准、越来越高的安全及保密性需求，与数量渐多的传感器，这些变化都让既有的运算架构无力负荷，市场需要的是可依据不同应用调整运算结构的硬件平台，要解决此问题，FPGA就是最佳解答，而Xilinx也对此提出解决方案。

陈豊縜表示，为了协助客户缩短产品上市时间，Xilinx将FPGA与CPU、ASIC整合为SoC，此一SoC架构中有基本的通讯界面，再加上FPGA原有的可调整不同运算结构特色，设备业者即可快速设计出边缘运算架构产品。

至于要如何开始部署AI架构，陈豊縜也提出了建议。她表示首先必须厘清AI识别需求，再找出合适模型。其次是计算此一模型所需运算量，最后再选择符合功耗、效能与成本的边缘运算装置。对于这些工作，传统的做法是采用开发硬件描述语言，不过此一方式已难因应现在市场的快速需求，对此Xilinx则提供了可快速部署AI的开发套件Vitis AI。

Vitis AI包含经过最佳化的IP、工具、数据库、模型与范例设计，此平台的开发流程支持可分为加载训练模型、优化模型、将模型编译成执行档、整合执行程序与硬件、部署硬件装置等5大步骤，协助客户彻底利用Xilinx FPGA在AI的快速开发能力。

陈豊縜表示，对于AI的推论模型，Xilinx提供了可调整不同运算结构的硬件平台，其低延迟、高弹性与高扩展性的独特优势，可完整串联边缘与云端两大层面。Vitis AI流程则能满足系统厂商在AI推论模型的开发效率，其AI部署无需RTL编程、DPU、工具链、特定模型和设计服务，简化了整体开发架构，同时也缩短产品的上市时程，借此强化业者的竞争优势。