[论文解读] Intelligence at the Extreme Edge: A Survey on Reformable TinyML

Visal Rajapakse, Ishan Karunanayake+1 more|arXiv (Cornell University)|Apr 2, 2022

Advanced Neural Network Applications被引用 9

一句话总结

本文对可更新的TinyML（Tiny Machine Learning）系统进行了全面综述，这类系统支持在部署后更新模型，提出了一种新颖的分类法，用于对具备自我改进能力的TinyML解决方案进行分类。文章分析了部署工作流程、工具、基准测试的缺口以及未来发展方向，强调了能效、去中心化以及与联邦学习、无服务器计算等新兴技术的集成，以实现在边缘计算极致边缘的自主设备智能。

ABSTRACT

Tiny Machine Learning (TinyML) is an upsurging research field that proposes to democratize the use of Machine Learning and Deep Learning on highly energy-efficient frugal Microcontroller Units. Considering the general assumption that TinyML can only run inference, growing interest in the domain has led to work that makes them reformable, i.e., solutions that permit models to improve once deployed. This work presents a survey on reformable TinyML solutions with the proposal of a novel taxonomy. Here, the suitability of each hierarchical layer for reformability is discussed. Furthermore, we explore the workflow of TinyML and analyze the identified deployment schemes, available tools and the scarcely available benchmarking tools. Finally, we discuss how reformable TinyML can impact a few selected industrial areas and discuss the challenges and future directions.

研究动机与目标

• 为解决现有TinyML系统仅支持推理、不支持运行时模型更新的局限性。
• 基于其自我改进机制，提出一种新颖的分类法，用于对可更新TinyML解决方案进行分类。
• 分析TinyML架构栈中每一层在可更新性方面的可行性与适用性。
• 调研现有工具、部署方案，以及该领域中基准测试框架的匮乏问题。
• 探讨可更新TinyML对工业应用的影响，并识别关键挑战与未来研究方向。

提出的方法

• 提出一种分层分类法，根据用于模型改进的技术（如空中升级、联邦学习、在线学习等）对可更新TinyML解决方案进行分类。
• 分析从资源丰富的设备上进行模型训练，到在内存和算力受限的微控制器单元（MCUs）上部署的完整TinyML工作流程。
• 评估系统各层——数据、模型、推理和更新——在支持运行时模型更新方面的适用性。
• 回顾现有的TinyML开发工具与框架，包括TensorFlow Lite Micro（TFLM），并识别基准测试与评估工具方面的缺口。
• 探索与下一代技术的集成，如利用区块链实现去中心化的模型更新、利用无服务器计算实现动态资源分配，以及利用可解释人工智能（XAI）提升模型透明度。
• 研究深度强化学习和知识蒸馏等先进机器学习技术在实现自主、自适应TinyML系统中的作用。

实验结果

研究问题

• RQ1 在资源受限的TinyML系统中，实现模型更新的关键技术与架构障碍是什么？
• RQ2 如何有效应用不同技术（如联邦学习、空中升级、在线学习）以实现可更新TinyML？
• RQ3 TinyML架构栈中的哪些层次最适宜实现可更新性？其中涉及的权衡是什么？
• RQ4 像无服务器计算和区块链这样的新兴范式如何提升可更新TinyML系统的可扩展性与安全性？
• RQ5 可更新TinyML最具前景的工业应用场景是什么？它们在自主性、能效和实时性能方面带来了哪些优势？

主要发现

• 可更新TinyML支持设备端模型更新，使模型能够适应动态环境，而无需依赖云端重新训练。
• 提出了一种新颖的分类法，可基于模型改进机制（如OTA更新、联邦学习或在线学习）系统性地对可更新TinyML解决方案进行分类。
• 尽管兴趣日益增长，但TinyML的基准测试工具仍然稀缺，限制了不同解决方案之间的可复现性与公平比较。
• 将无服务器计算与TinyML结合，可通过仅在需要时分配计算资源来优化资源使用，与TinyML的能效目标保持一致。
• 去中心化方法如区块链和gossip学习可增强模型更新管道的安全性与鲁棒性，尤其在依赖网络或对抗性环境中的应用。
• 深度强化学习和知识蒸馏等先进机器学习技术在实现能够从经验中学习的自主、自适应TinyML系统方面展现出巨大潜力。