Skymizer 在MLPerf Tiny v1.1 Benchmarks 取得极佳效能 智能应用 影音
EVmember
Event

Skymizer 在MLPerf Tiny v1.1 Benchmarks 取得极佳效能

  • 李佳玲台北

Skymizer长期耕耘在AI system software领域,是台湾AI system software的领头羊,日前在MLPerf Tiny v1.1 Benchmarks的官方竞赛当中取得绝佳成绩。这次Skymizer分别送了两次跑分,一个跑分与新唐科技合作,挑战软硬件协同优化的极限,取得ARM Cortex-M4当中的最好成绩。另外一个跑分则基于通用的MCU 平台,靠纯粹的ONNC 编译器力压MicroTVM。

在与新唐合作的跑分当中,Skymizer发挥了软硬件协同优化的能力,在新唐的M467HJHAN取得了绝佳的成绩。M467HJHAN MCU 工作在200MHz,有512KBSRAM。在这样的环境之下,Skymizer利用ONNC 编译器、操作系统、CMSIS-NN优化函式库三管齐下,顺利的在ARM Cortex-M4领域当中取得头筹。

在纯粹的编译器优化的跑分当中,相较于open-source编译器,ONNC取得平均1.24x的效能提升。在IC (Image Classification)benchmark 当中,ONNC加速了系统1.31x倍。这是因为ONNC能将大型的tensor 做最适当于memory bandwidth/size的分割,当模型越大而硬件存储器越小,此优势就越能够呈现出来。另外一个VWW(VisualWake Word)benchmark,ONNC加速了1.52x倍。这是因为ONNC有绝佳的演算法可以处理sparse tensor却又保持高精准度。

Skymizer藉由这两个跑分成绩,证明了在AI system software上的领先定位。Skymizer的系统软件能够容易地移植到各式的硬件上,目前已经被广泛应用在datacenter的推荐系统加速器与通用型加速器上,也已经被各式的加速芯片,如手机、监视系统与微处理器采用。Skymizer会持续的提供客户最佳的工具与服务,加速AI世界的到来。更多信息请到Skymizer官网查询。

 


关键字