MCU AI/ML - 弥合智能和嵌入式系统之间的差距

作者：芯科科技 产品营销高级经理 Gopinath Krishniah

人工智能 （ AI ） 和机器学习 （ ML ） 是使系统能够从数据中学习、进行推理并随着时间的推移提高性能 的关键技术 。这些技术 通 常用于大型数据中心和功能强大的GPU ，但 在 微控制器 （ MCU ）等 资源受限的 器件 上部署 这些技术 的需求 也在不断增加 。

本 文 将探讨MCU 技术和 AI/ML 的交集，以及它如何影响低功耗边缘设备。 同时 将讨论在电池供电 设备 的MCU 上运行 人工智能 的困难、创新和实际 应用场景 。

AI/ML 和 MCU ：简要概述

人工智能 创建的计算机系统 可以 执行类似人类 的 任务，例如理解语言、寻找模式和做出决定。 机器学习 是人工智能的一个子集，涉及使用算法让计算机从数据中学习并随着时间的推移 不断改进 。 机器学习 模型可以寻找模式 、 排序对象 、 并从示例中预测结果。

MCU 使人工智能和 机器学习 在边缘设备上成为可能，可以在多个方面发挥着重要作用。

基于MCU 运行的边缘 AI/ML 的一些 应用场景 包括：

·  关键 词 识别： 无需云连接即可识别特定词语或短语（例如语音命令）

·  传感器融合： 结合来自多个传感器的数据，做出比使用单 一 传感器解决方案更明智的决策

·  异常检测： 检测传感器数据中可能指示故障、错误或威胁的异常值或异常模式，以进行预测性维护或质量控制

·  目标 检测： 在摄像头或其他传感器捕获的图像或视频中识别和定位感兴趣的目标（例如人脸、行人、车辆）

·  手势识别： 在摄像头或其他传感器捕获的图像或视频中 解读 人类手势（例如手部动作、面部表情、身体姿势），以改善人机交互

AI/ML 在 MCU 上的挑战

深度学习模型，特别是深度神经网络 （ DNN ） ， 已经成为计算机视觉和自然语言处理等复杂任务中不可或缺的一部分。然而，它们的计算需求是巨大的。 这种资源密集型模型对于日常设备来说是不切实际的，尤其是那些由边缘设备中的低 功耗 MCU 驱动 的设备。深度学习模型 的 复杂性 必然会 增长 ， 随着 深度神经网络 变得越来越复杂，其 规模 会不断扩大，使 它们 与MCU 上 有限的可用 计算资源不 相 容。

什么是TinyML ？

TinyML 指的是为在资源受限的设备上部署人工智能而优化的机器学习模型和技术。 这些设备在 边缘运行，在那里生成数据，并在本地执行推理。 TinyML 系统通常在低功耗 MCU 上运行， 对 在节点本地收集的数据执行推理。推理是 人工智能模型的关键时刻，测试它在训练中所学知识的应用能力。 本地推理使MCU 能够直接执行 人工智能 模型，无需依赖外部服务器或云服务即可做出实时决策。

在 AI/ML 环境中 进行本地推理至关重要，原因 如下 ：

资源限制： 许多嵌入式设备，特别是那些使用电池供电的设备，其内存、处理能力和能源效率等资源有限。传统的通用MCU 由于其有限的处理能力和内存、有限的能源资源或缺乏片上加速功能而难以有效地执行人工智能任务。本地推理支持这些资源受限的设备在不消耗过多功耗的情况下执行人工智能工作负载，以提高效率和性能。

用户体验增强： 举例而言 ：支持人工智能的电子猫门。通过训练它来区分猫和其他物体，它只能为授权的猫打开门。在这里，本地推理通过确保安全性和便利性来改善用户体验，而不需要RFID 项圈等其他硬件。

效率和性能： GPU 通常用于大规模人工智能部署，因为它们可以并行执行许多流程，这对高效的人工智能训练至关重要。然而，对于小型嵌入式应用来说， GPU 成本高昂，并且超出了功耗预算。人工智能优化的 MCU 具有专用架构，通过为人工智能工作负载提供更好的性能和能效来实现平衡。 在 Silicon Labs （芯科科技）提供的新型无线 SoC 和 MCU 中 ， 已包括一个矩阵矢量处理器 来 为其AI/ML 功能提供 一部分 支持 。这种专用的硬件加速器旨在增强AI/ML 算法或矢量数学运算的性能，以缩短推理时间并以更低的功耗执行这些关键任务。

总之，边缘的本地推理可以实现实时决策、减少延迟、增强安全性、为电池供电 的 设备提供人工智能功能，并增强用户体验，使其成为现代计算系统的关键组成部分，同时满足资源限制。

芯科科技引领边缘 AI/ML 解决方案

芯科科技作为智能、安全物联网无线连接领域的开拓者，正在致力于将 AI/ML 带到边缘。 我们对创新的承诺带来了突破性的解决方案，使MCU 等资源受限 的产品 具有 更丰富的 智能功能。

针对TinyML 优化的 器件

EFR32xG24 、 EFR32xG28 和 EFR32xG26 等无线 MCU 系列产品均结合了 78 MHz 的 ARM Cortex®-M33 处理器、高性能射频、精密模拟性能，以及一个 AI/ML 硬件加速器， 为开发人员提供了 一个 部署边缘智能的灵活平台 。同时，这些产品还支持广泛的 无线物联网 协议， 具有市场领先的安全性和 最佳的射频 性能/ 能效比。

当今的开发人员经常 被迫为在边缘部署 AI /ML 而在 性能或能 耗方面付出高昂的 代价。xG24 、 xG28 和 xG26 系列 作为第一款 内置 专用AI/ML 加速器的超低功耗 产品 ，可降低 整体 设计复杂性，从而 减轻 这些代价。这种专用硬件旨在处理复杂的计算，与仅采用固件的方法相比，推理速度提高8 倍，能效提高 6 倍，与基于云的解决方案相比，性能更高。硬件加速器的使用减轻了主应用 MCU 推理的负担，留出更多的时钟周期为 用户 的应用提供服务。

简化AI/ML 开发的工具

构建、测试和部署机器学习所需算法的工具与运行这些算法的MCU 同样重要。通过与 TensorFlow 、 SensiML 和 Edge Impulse 等 TinyML 领域的行业翘楚合作， 芯科科技 同时为初学者和专家提供了选择。开发人员可以将这一新AI/ML 工具链与 芯科科技 的Simplicity Studio 开发环境 配合使用，创建可从各种连接设备中获取信息的应用程序，从而做出智能 的 机器学习驱动的决策。

芯科科技 提供各种工具和资源来支持机器学习应用：

机器学习应用： 该开发平台支持嵌入式机器学习 （ TinyML ） 模型推理，由TensorFlow Lite for Microcontrollers （ TFLM ） 框架提供支持。 其 计算 库 包含一组利用 机器学习 的嵌入式应用程序。

机器学习工具包 （ MLTK ） ： 这是一个带有命令行实用程序和脚本的Python 包，可帮助 开发者 为芯科科技的嵌入式平台开发机器学习模型。它包括从命令行界面或Python 脚本执行 机器学习 操作、确定 机器学习 模型在嵌入式平台上的执行效率以及使用Google TensorFlow 训练 机器学习 模型的功能。

芯科科技还提供TinyML 解决方案，作为机器学习工具包的一部分。该工具包包括 TinyML 基准测试使用的几种模型。这些模型可在 芯科科技GitHub 上找到，包括异常检测、图像分类和关键 词 识别。

AI/ML 驱动的边缘设备为我们如何与周围环境互动开辟了新的视野，它们很快将以令人惊叹的方式改变我们的生活。芯科科技处于 TinyML 创新的最前沿，能够以前所未有的方式将这些功能带入低功耗、 联网 的边缘设备。

点击 此处 ，了解更多关于芯科科技的EFR 和 EFM MCU 平台是如何针对边缘 AI/ML 进行优化。