[论文解读] Bayesian Active Learning for Wearable Stress and Affect Detection

Abhijith Ragav, Gautham Krishna Gudur|arXiv (Cornell University)|Dec 4, 2020

Emotion and Mood Recognition参考文献 16被引用 7

一句话总结

本文提出了一种基于蒙特卡洛 dropout 的贝叶斯主动学习框架，用于在 Raspberry Pi 2 上实现基于 Bayesian Conv1D 神经网络的实时可穿戴压力与情绪检测。通过利用 dropout 推断进行不确定性估计，并采用如变异比率（Variation Ratios）等采集函数，该系统仅使用 60% 的池化数据标签即实现了 90.38% 的准确率，与全数据训练性能相当，同时在 Raspberry Pi 2 上保持了较低的推理延迟。

ABSTRACT

In the recent past, psychological stress has been increasingly observed in humans, and early detection is crucial to prevent health risks. Stress detection using on-device deep learning algorithms has been on the rise owing to advancements in pervasive computing. However, an important challenge that needs to be addressed is handling unlabeled data in real-time via suitable ground truthing techniques (like Active Learning), which should help establish affective states (labels) while also selecting only the most informative data points to query from an oracle. In this paper, we propose a framework with capabilities to represent model uncertainties through approximations in Bayesian Neural Networks using Monte-Carlo (MC) Dropout. This is combined with suitable acquisition functions for active learning. Empirical results on a popular stress and affect detection dataset experimented on a Raspberry Pi 2 indicate that our proposed framework achieves a considerable efficiency boost during inference, with a substantially low number of acquired pool points during active learning across various acquisition functions. Variation Ratios achieves an accuracy of 90.38% which is comparable to the maximum test accuracy achieved while training on about 40% lesser data.

研究动机与目标

• 解决实时可穿戴健康监测系统中未标记生理数据的标注挑战。
• 通过仅选择最具信息量的数据点进行标注，减轻人工标注者的工作负担。
• 实现在设备端部署具备不确定性感知能力的深度学习模型，以实现持续的压力与情绪检测。
• 评估在移动健康背景下，基于贝叶斯主动学习与多种采集函数的有效性。
• 展示在低功耗嵌入式设备（如 Raspberry Pi 2）上基于不确定性的主动学习的可行性与高效性。

提出的方法

• 在 1D 卷积神经网络（Conv1D）中采用蒙特卡洛 dropout，以近似后验分布并估计预测不确定性。
• 通过 T=10 次随机前向传播进行贝叶斯神经网络（BNN）推理，计算预测的均值与方差。
• 应用多种采集函数——最大熵（Max Entropy）、BALD、变异比率（Variation Ratios）和随机采样——从未标记池中选择最不确定的数据点。
• 在 Raspberry Pi 2 上部署模型，实现基于设备端主动学习更新的实时推理与增量学习。
• 在服务器上预训练模型，并将其迁移至嵌入式设备，随后在获取的数据上进行增量微调，每个采集窗口最多进行 10 个周期的训练。
• 使用动态采集适应因子 η ∈ [0,1] 控制每次迭代中查询的池化窗口数量，以模拟真实世界中的数据流。

实验结果

研究问题

• RQ1 基于蒙特卡洛 dropout 的贝叶斯主动学习能否有效减少实现准确压力与情绪检测所需的标签数据量？
• RQ2 在最大熵、BALD、变异比率和随机采样这四种采集函数中，哪一种能在最小化标注工作量的前提下实现最高分类准确率？
• RQ3 在低功耗嵌入式设备（如 Raspberry Pi 2）上，基于不确定性的主动学习在推理时间与模型更新开销方面效率如何？
• RQ4 贝叶斯 CNN 在仅使用部分标签数据的情况下，其性能在多大程度上可与全数据训练相媲美？
• RQ5 在真实世界移动健康应用中，是否可实际部署具备不确定性估计的设备端主动学习？

主要发现

• 使用变异比率（Variation Ratios）采集函数时，仅使用 60% 的未标记池数据（η = 0.6）即实现了 90.38% 的测试准确率，与全数据训练（η = 1.0）所达到的最高准确率 91.92% 非常接近。
• 当 η = 0.6 时，系统相比全数据标注减少了 40% 的标注查询量，同时保持了高性能。
• 无主动学习基线准确率为 79.12%，所有采集函数均提升了性能，其中变异比率表现最优。
• 在 Raspberry Pi 2 上的设备端推理耗时约 5 秒/次采集周期（10 次随机前向传播），平均每次前向传播耗时 0.5 秒。
• 模型大小约为 115 kB，适合在资源受限的物联网设备上部署。
• 该系统表明，具备不确定性感知的主动学习可显著减少标注工作量，同时在实时可穿戴情绪检测中保持高准确率。