恩智浦与NVIDIA携手整合TAO工具套件至恩智浦边缘装置 加速AI部署
全球半导体领导厂商恩智浦半导体(NXP Semiconductors N.V.; NASDAQ:NXPI)日前于NVIDIA GTC宣布与NVIDIA合作,将NVIDIA经过训练的人工智能模型透过eIQ机器学习开发环境部署至恩智浦广泛的边缘处理产品组合中。NVIDIA TAO工具套件功能与恩智浦eIQ机器学习开发环境的整合令人振奋,开发人员能够在竞争日益激烈的人工智能领域中实现加速开发。恩智浦是首家将NVIDIA TAO API直接整合至人工智能产品的半导体供应商,让开发人员更轻松地在边缘部署经过训练的人工智能模型。
简化人工智能模型的训练和部署是当前人工智能领域开发人员面临的重大挑战之一。为应对此挑战,恩智浦与NVIDIA合作,将NVIDIA TAO API直接整合到恩智浦eIQ机器学习开发环境。NVIDIA TAO低程序码人工智能框架透过迁移学习(transfer learning),让开发人员能够更轻松地运用经过训练的人工智能模型,并针对特定用途对模型进行微调和最佳化,而恩智浦eIQ开发环境透过整合式软件、推理引擎、神经网络编译器以及最佳化的函式库,简化将模型部署到边缘的过程。
透过本次技术整合,客户能够从多方面受益,包括加速人工智能开发进程、存取预先测试的人工智能模型库、以及将人工智能模型部署至恩智浦广泛的边缘处理器产品组合。
恩智浦半导体资深副总裁暨工业与物联网边缘事业部总经理Charles Dachs表示:「人工智能创新将决定智能互联世界的未来。恩智浦在工业和物联网边缘创新领域拥有丰富的经验,而NVIDIA则在训练与测试人工智能模型方面具有专业优势,两者结合产生的协同作用能够让我们的客户更加快速、轻松地将其人工智能模型推向市场。」
NVIDIA机器人与边缘运算副总裁Deepu Talla表示:「NVIDIA TAO可大幅度简化人工智能模型的创建和部署,包括先进的生成式人工智能模型。此次合作,透过运用NVIDIA TAO调整的高度精确且经最佳化的人工智能模型,以及将模型无缝整合至恩智浦eIQ开发环境,能够加速实现部署边缘人工智能。」
借助恩智浦eIQ机器学习软件发展环境,用户可在恩智浦广泛的微控制器和微处理器产品组合中运用人工智能演算法。eIQ机器学习软件已完全整合到恩智浦的MCUXpresso SDK和Yocto Project Linux开发环境,开发人员能够轻松开发完整的系统级应用。
eIQ机器学习开发环境将直接整合NVIDIA TAO API,为人工智能模型的训练、最佳化和部署提供统一平台。NVIDIA TAO提供基于API的工作流程,运用一系列预先训练的模型和迁移学习,使用者能够自订构建人工智能模型。NVIDIA TAO亦提供多项最佳化功能,例如模型剪枝(model pruning),以提高推理输送量。
有关此次合作如何加速开发,并允许NVIDIA的预先训练模型在恩智浦SoC的神经处理单元(Neural Processing Unit;NPU),如i.MX 93应用处理器上运行的更多信息,请参阅官网。