新思科技针对高效能神经网络推新款软件库

新思科技日前宣布推出新的embARC机器学习推论软件库(embARC Machine Learning Inference software library)，当SoC开发人员采用新思科技DesignWare ARC EM与HS DSP处理器IP、进行高效能神经网络SoC设计时，可大幅提升开发效能。

embARC MLI软件库提供开发人员优化的功能，可于神经网络各层阶中执行， 因此对于语音侦测、语音识别及传感器信息处理等需要低功耗与小面积的应用，可大幅减少其处理器的周期数(cycle count)。embARC MLI软件库可透过embARC.org取得，该网站专门提供开发人员取得支持ARC处理器的免费开源软件、驱动程序、操作系统与中介软件。

耐能智能(Kneron)创始人暨CEO刘峻诚表示，为了提供客户语音触(voice triggering)与语音识别的超低功耗AI解决方案，需要ARC EM DSP这类功耗及面积效率高的处理器IP。藉由提供embARC机器学习推论软件库，新思科技提供开发人员所需的基本要件，能在以ARC为基础的设计上快速实现机器学习运算。

embARC MLI软件库支持ARC EMxD与HS4xD处理器，为中小型机器学习模型的有效推论提供核心要件。它能有效率地执行诸如卷积运算、长短期记忆单元、池化运算等操作实作、修正线性单元等激励函数，以及包括填充、转置、串接等数据选路的操作，同时还能减少功耗与存储器使用量。

举例来说，像是CIFAR-10等低功耗神经网络用的基准，在ARC EM9D处理器上运作时，比起同级处理器能减少4倍的周期数。此外，MLI软件库能在各种神经网络层，例如：深度2D卷积、全连结的基本RNN单元和LSTM单元，带来平均3到5倍的效能，而针对2D卷积层最高可提升效能达16倍。

新思科技IP行销副总裁John Koeter表示，对边缘装置的嵌入式机器学习功能来说，功耗与芯片面积是很重要的考量。藉由让各式神经网络在高效能的ARC EM和HS DSP处理器上运作，新思科技扩展一套ARC处理器供开发人员选择，以便开发出高效能的AI设计。