TinyML为最小的ARM装置带来人工智能

TinyML专注于优化机器学习(ML)的工作负载，如此其就能在比一粒米还微小的微控制器上处理，且消耗仅几毫瓦的功耗。TinyML为微型装置提供了智能，在ARM、Google、高通和其他公司的支持下，tinyML有潜力改变物联网(IoT)，在物联网中，基于ARM芯片的数十亿微型装置已经被用于提供更多的洞察和效率，包括消费、医疗、汽车和工业领域。

为何tinyML要着眼在微控制器上的应用？

像ARM Cortex-M系列这样的微控制器是ML的理想平台，因为它们已经被广泛使用。它们可以快速高效地进行实时计算，可靠且回应迅速，而且由于耗电很少，可以部署在难以或不便更换电池的地方，也许更重要的是，它们够便宜，可以在任何地方使用。市场分析机构IDC报告指出，2018年微控制器的销量为281亿台，预计到2023 年，微控制器的年出货量将成长到382亿台。

微控制器上的TinyML为我们提供了分析和理解物联网产生的大量数据的新技术，特别的是，深度学习方法可以用来处理信息，并理解传感器提供的数据，比如检测声音、捕捉图像和跟踪动作。

以非常紧凑的格式进行高级模式识别

透过研究机器学习涉及的数学，数据科学家发现他们可以透过做出某些改变来降低复杂性，比如用简单的8位运算代替浮点运算。这些变化创造了机器学习模型，工作效率大大提高，需要的处理和记忆资源也大大减少。

TinyML技术正在迅速发展，这要归功于新技术和一群投入的开发人员。就在几年前，我们还在庆祝我们运行语音识别模型的能力，该模型在受限的ARM Cortex-M3微控制器上，仅使用15KB程序码和22KB数据就能在检测到特定单词时唤醒系统。

从那时起，ARM推出了新的机器学习(ML)处理器，称为Ethos-U55和Ethos-U65，这是一款微型处理器，专门用于加速嵌入式和物联网装置中的ML推理。Ethos-U55与具有人工智能能力的Cortex-M55处理器相结合，将在ML性能和能源效率提供显着提升。

TinyML将终端装置提升到新的层次

TinyML的潜在使用场景几乎是无限的，开发人员已经开始使用tinyML来探索各种各样的新想法：可以改变信号以减少拥塞的回应性交通号志，可以预测何时需要服务的工业机器，可以监测农作物是否有破坏性昆虫的传感器，可以在库存减少时要求补充库存的商店货架，可以在保持隐私的同时跟踪重要信息的医疗监视器，这些例子不胜枚举。

TinyML可以使终端装置更加一致和可靠，因为不需要依赖繁忙、拥挤的互联网连接向云中来回发送数据，减少甚至消除与云的交互性有很多好处，包括在减少能耗、显着降低数据处理延迟和安全方面的好处，因为不传输的数据受到攻击的风险要小得多。

这些在微控制器上执行推理的微小ML模型并不会取代当前在云中发生更复杂的推理，反之，它们所做的是将特定的功能从云端转移到终端装置上，这样开发人员就可以在需要时与云端交互作用。

TinyML还为开发人员提供一套强大的新工具来解决问题，ML可以检测基于规则的系统难以识别的复杂事件，因此终端人工智能装置能开始以新的方式做出贡献。此外，由于ML可用文字或手势控制装置，而不是按钮或智能手机，因此终端装置可以构建得更坚固耐用，并可以在更有挑战性的操作环境中部署。

TinyML随着生态系统的扩大而获得动力

产业参与者很快就认可了tinyML的价值，并迅速采取移动创建一个支持性的生态系统。各个级别的开发人员，从热情的爱好者到经验丰富的专业人士，现在都可以存取易于上手的工具，所需要的只是一台笔记本电脑、一个开源软件库和一条USB线，以及用于将笔记本电脑连接到几款价格低至几美元的低价开发板。

事实上，在2021年初，Raspberry Pi发布了其第一款微控制器板，这是市场上最实惠的开发板之一，仅需4美元，它名为Raspberry Pi Pico，由RP2040 SoC提供支持，这是一款功能强大的双ARM Cortex-M0+处理器，RP2040 MCU能够运行TensorFlow Lite Micro，我们期待在未来几个月内看到该板的广泛ML使用案例。

ARM是tinyML的坚定支持者，因为我们的微控制器架构是物联网的核心，并且因为我们看到了装置端推理的潜力，ARM与Google的合作使开发人员能够更轻松地在功耗受限的环境中部署终端机器学习。

ARM CMSIS-NN函式库与Google的TensorFlow Lite Micro(TFLu)框架相结合，允许数据科学家和软件开发人员利用ARM的硬件优化，而无需成为嵌入式编程专家。最重要的是，ARM正在投资源自Keil MDK的新工具，以便从原型到生产协助开发人员部署ML应用。

许多早期的影响者的投入使得tinyML成为可能，包括tinyML的创始人暨谷歌TensorFlow Lite Micro技术负责人Pete Warden；ARM 创新者Kwabena Agyeman，他开发了OpenMV，这是一个致力于低成本、可扩展、由Python 驱动的机器视觉模块；来自Edge Impulse 的Daniel Situnayake，他是tinyML创始工程师和开发人员，Edge Impulse提供涵盖数据收集、模型训练和模型优化的完整tinyML管道。

此外，ARM合作夥伴，例如Cartesiam.ai，一家提供NanoEdge AI的公司，这是一种基于在实际状况下观察到的传感器行为在终端上创建软件模型的工具，已将tinyML的可能性推向了另一个层次。

即将于2021年9月14日在线举办的「ARM终端AI运算生态高峰会」，除了有助力TinyML推动的ARM、TensorFlow Lite及Edge Impulse的技术专家，针对ML框架、ARM AI 解决方案与工具的详细介绍与示范，另外生态系夥伴Skymizer、Cyberon，以及在学术界非常热门的台大电机工程学系副教授李宏毅先生都将带来精彩的演讲，欢迎对终端AI运算与TinyML有兴趣的朋友，把握截至9月10日为止的最后报名机会，手刀点此「ARM终端AI运算生态高峰会」报名，在此抢先揭露李教授的议程摘要。