[论文解读] SAIA: Split Artificial Intelligence Architecture for Mobile Healthcare System

Di Zhuang, Nam V. Nguyen+2 more|arXiv (Cornell University)|Apr 25, 2020

IoT and Edge/Fog Computing参考文献 64被引用 4

一句话总结

SAIA 提出了一种用于移动医疗系统的分割式人工智能架构，该架构根据实时条件在设备上的轻量级嵌入式 AI 与云端的高性能网络化 AI 之间动态路由数据。通过使用可调超参数 ε 的基于元信息的决策单元，SAIA 在皮肤病变和指甲真菌病数据集上相较于基线方法展现出更优的效能与效率，即使在通信中断期间也能保持性能。

ABSTRACT

As the advancement of deep learning (DL), the Internet of Things and cloud computing techniques for biomedical and healthcare problems, mobile healthcare systems have received unprecedented attention. Since DL techniques usually require enormous amount of computation, most of them cannot be directly deployed on the resource-constrained mobile and IoT devices. Hence, most of the mobile healthcare systems leverage the cloud computing infrastructure, where the data collected by the mobile and IoT devices would be transmitted to the cloud computing platforms for analysis. However, in the contested environments, relying on the cloud might not be practical at all times. For instance, the satellite communication might be denied or disrupted. We propose SAIA, a Split Artificial Intelligence Architecture for mobile healthcare systems. Unlike traditional approaches for artificial intelligence (AI) which solely exploits the computational power of the cloud server, SAIA could not only relies on the cloud computing infrastructure while the wireless communication is available, but also utilizes the lightweight AI solutions that work locally on the client side, hence, it can work even when the communication is impeded. In SAIA, we propose a meta-information based decision unit, that could tune whether a sample captured by the client should be operated by the embedded AI (i.e., keeping on the client) or the networked AI (i.e., sending to the server), under different conditions. In our experimental evaluation, extensive experiments have been conducted on two popular healthcare datasets. Our results show that SAIA consistently outperforms its baselines in terms of both effectiveness and efficiency.

研究动机与目标

• 为解决在计算资源有限且连接不可靠的移动和物联网医疗设备中部署深度学习的挑战。
• 设计一种混合 AI 系统，结合本地嵌入式 AI 与远程网络化 AI，确保在通信中断时仍能正常运行。
• 开发一种智能决策单元，根据数据特征和系统状态自适应选择在客户端或服务器端进行 AI 处理。
• 优化移动医疗应用中准确率、延迟、能耗与通信开销之间的权衡。
• 在真实世界医疗数据集上评估该架构，证明其在鲁棒性与优越性方面优于现有方法。

提出的方法

• 该系统采用四组件架构：数据预处理（目标检测、语义分割、特征提取）、嵌入式 AI（轻量级 DNN 分类器）、网络化 AI（多个先进 DNN 的融合）以及核心决策单元。
• 决策单元是一个轻量级机器学习分类器，基于元特征（如图像质量、复杂度和上下文线索）进行训练，以预测应将样本本地处理还是远程处理。
• 决策单元使用可调超参数 ε 来平衡置信度阈值，实现对不同网络条件和资源可用性的动态适应。
• 元特征包括图像分辨率、纹理复杂度和病灶特征，这些特征在分类前被提取，以指导路由决策。
• 嵌入式 AI 使用紧凑模型如 MobileNet 或 EfficientNet，而网络化 AI 则采用集成模型以实现最先进准确率。
• 该系统支持依赖云和离线运行两种模式，确保在卫星链路中断等对抗性环境中的弹性。

实验结果

研究问题

• RQ1 当云连接不可靠或不可用时，移动医疗系统如何维持高诊断准确率？
• RQ2 应依据何种标准指导医疗图像样本在本地嵌入式 AI 与远程网络化 AI 之间的路由？
• RQ3 轻量级基于元信息的决策单元是否能有效平衡实时移动医疗应用中的准确率、延迟与通信成本？
• RQ4 与传统的仅依赖云或仅依赖客户端的 AI 方法相比，所提出的 SAIA 架构在性能与效率方面表现如何？
• RQ5 在不同网络与设备条件下，决策单元中的超参数 ε 在多大程度上可调优以优化系统行为？

主要发现

• SAIA 在两个大规模医疗数据集（皮肤病变与甲真菌病分类）上，持续优于基线系统，在效能与效率方面表现更优。
• 基于元信息的决策单元配合超参数 ε 实现了自适应路由，减少了不必要的数据传输，同时未牺牲诊断准确率。
• 在模拟通信中断期间，系统通过依赖嵌入式 AI 维持高性能，展现出在对抗性环境中的韧性。
• 轻量级决策单元显著降低了客户端的计算开销，同时实现了智能工作负载分配。
• 服务器端融合多个先进 DNN 实现了最先进准确率，这是设备上独立轻量级模型无法实现的。
• 实验结果表明，与传统仅依赖云或分割 DNN 方法相比，SAIA 在带宽受限条件下显著降低了通信负载与能耗。