[论文解读] Personalizing Smartwatch Based Activity Recognition Using Transfer Learning

Karanpreet Singh, Rajen B. Bhatt|arXiv (Cornell University)|Sep 3, 2019

Context-Aware Activity Recognition Systems参考文献 12被引用 4

一句话总结

本文提出一种迁移学习方法，通过使用极少的用户特定数据在设备端微调预训练的梯度提升机（GBM），提升智能手表上的活动识别准确率，而无需重新训练估计器。该方法在某一数据集上实现了高达50%的误差减少，F1得分从0.9456提升至0.9758，显著增强了基线性能较低用户的个性化体验。

ABSTRACT

Smartwatches are increasingly being used to recognize human daily life activities. These devices may employ different kind of machine learning (ML) solutions. One of such ML models is Gradient Boosting Machine (GBM) which has shown an excellent performance in the literature. The GBM can be trained on available data set before it is deployed on any device. However, this data set may not represent every kind of human behavior in real life. For example, a ML model to detect elder and young persons running activity may give different results because of differences in their activity patterns. This may result in decrease in the accuracy of activity recognition. Therefore, a transfer learning based method is proposed in which user-specific performance can be improved significantly by doing on-device calibration of GBM by just tuning its parameters without retraining its estimators. Results show that this method can significantly improve the user-based accuracy for activity recognition.

研究动机与目标

• 解决特定用户（尤其是老年人、儿童及运动模式异常的患者）在智能手表活动识别中准确率低下的挑战。
• 克服在多样化数据集上训练的通用模型无法捕捉个体行为差异的局限性。
• 开发一种轻量级、设备端的个性化方法，避免重新训练，并减轻对敏感或难以采样的群体的数据收集负担。
• 仅通过少量标注的用户数据对预训练GBM进行参数调优，提升用户特定的识别准确率。

提出的方法

• 在大规模、多样化的智能手表传感器数据（加速度计和陀螺仪）数据集上训练一个通用GBM模型，以建立基线模型。
• 使用设备端迁移学习，仅通过少量用户特定的标注数据微调GBM的最终预测权重（而非估计器）。
• 采用一种超参数调优策略，通过调整每个弱学习器对最终预测的贡献，优化GBM的输出得分。
• 采用一人一出的交叉验证框架评估个性化性能，确保方法的鲁棒性与泛化能力。
• 利用GBM的序列提升机制，迭代修正用户特定数据上的错误，提升各类别的识别准确率。
• 在设备端实现该方法，以保护隐私并减少计算开销，支持实时个性化。

实验结果

研究问题

• RQ1 在不重新训练的前提下，对预训练GBM进行设备端超参数调优，能否显著提升个体用户的活动识别准确率？
• RQ2 与在通用数据上训练的基线GBM相比，所提方法在多大程度上降低了误差率？
• RQ3 该方法在提升基线性能较低用户（尤其是“骑车”或“步行”等困难类别）的识别准确率方面有多有效？
• RQ4 在仅使用极少用户特定数据的情况下，该方法能否实现有意义的性能提升，尤其适用于数据量有限的人群？
• RQ5 该方法在多个受试者和活动类别上是否保持或提升了F1得分与AUC？

主要发现

• 在第7号受试者的‘步行’类别中，调优后的GBM实现了50.2%的误差率相对降低，准确率从73.65%提升至94.80%。
• 在数据集I上，整体F1得分从基线的0.9456提升至调优后的0.9758，绝对提升3.2%。
• 在数据集II中，整体F1得分从0.9307提升至0.9619，第7号受试者的F1得分从0.8117大幅提升至0.9671。
• 第7号受试者‘骑车’类别的曲线下面积（AUC）在调优后从0.886提升至0.982，表明判别能力显著增强。
• 在第8号受试者中，‘骑车’类别的准确率提升至90.79%（基线为83.00%），表明在不同用户中均实现了稳定提升。
• 调优后，‘骑车’类别的准确率达到96.30%，‘步行’类别达到97.57%，而基线模型分别为90.14%和94.20%。