[论文解读] Personalizing human activity recognition models using incremental learning

Pekka Siirtola, Heli Koskimäki+1 more|arXiv (Cornell University)|May 29, 2019

Context-Aware Activity Recognition Systems参考文献 9被引用 12

一句话总结

本文提出一种基于 Learn++ 的增量学习方法，利用智能手机惯性传感器数据对人类活动识别（HAR）模型进行个性化，且无需用户中断。通过使用少量个人流数据更新与用户无关的模型，该方法显著提升了分类准确率——尤其当使用线性判别分析（LDA）作为基础分类器时，相比初始模型准确率提升了 4.6 个百分点。

ABSTRACT

In this study, the aim is to personalize inertial sensor data-based human activity recognition models using incremental learning. At first, the recognition is based on user-independent model. However, when personal streaming data becomes available, the incremental learning-based recognition model can be updated, and therefore personalized, based on the data without user-interruption. The used incremental learning algorithm is Learn++ which is an ensemble method that can use any classifier as a base classifier. In fact, study compares three different base classifiers: linear discriminant analysis (LDA), quadratic discriminant analysis (QDA) and classification and regression tree (CART). Experiments are based on publicly open data set and they show that already a small personal training data set can improve the classification accuracy. Improvement using LDA as base classifier is 4.6 percentage units, using QDA 2.0 percentage units, and 2.3 percentage units using CART. However, if the user-independent model used in the first phase of the recognition process is not accurate enough, personalization cannot improve recognition accuracy.

研究动机与目标

• 解决为个体用户个性化人类活动识别模型的挑战，而无需单独进行大规模数据采集会话。
• 实现实时模型个性化，利用智能手机惯性传感器的流数据，且无需用户中断。
• 评估通过 Learn++ 实现的增量学习在不同基础分类器（LDA、QDA、CART）下对提升 HAR 准确率的有效性。
• 探究个性化是否能够克服用户无关模型存在局限性的问题。

提出的方法

• 该方法使用 Learn++ 增量学习算法，将输入数据分块处理，并通过加权多数投票动态组合新生成的弱基模型与先前训练的模型。
• 首先使用留一法在八名受试者的数据上训练一个与用户无关的模型，然后利用该模型对第九名受试者的流数据进行标注，以实现个性化。
• 通过每个个体的已标注流数据，增量式地更新个性化模型，每个新基模型均基于个人数据的随机样本进行训练。
• 评估了三种基础分类器——线性判别分析（LDA）、二次判别分析（QDA）和分类与回归树（CART）——在 Learn++ 集成模型中的性能表现。
• 从 3D 加速度计和陀螺仪信号中提取特征，包括时域统计量、百分位数特征以及频域分量，每段窗口生成 244 个特征。
• 采用 4.2 秒的滑动窗口，重叠 1.4 秒，对数据进行分段，每个窗口在个性化前使用与用户无关的模型进行标注。

实验结果

研究问题

• RQ1 通过 Learn++ 实现的增量学习是否能仅使用少量个人流数据有效个性化 HAR 模型？
• RQ2 基础分类器的选择（LDA、QDA、CART）如何影响个性化 HAR 模型的性能提升？
• RQ3 在何种情况下，尽管使用了增量学习，个性化仍无法提升识别准确率？
• RQ4 当初始的与用户无关的模型准确率较低时，个性化能在多大程度上提升准确率？

主要发现

• 在 Learn++ 集成模型中使用 LDA 作为基础分类器，实现了最高的分类准确率提升，相比与用户无关的模型，错误率降低了 4.6 个百分点。
• 基于 QDA 的个性化使准确率提升了 2.0 个百分点，而基于 CART 的个性化使准确率提升了 2.3 个百分点。
• 所有受试者平均错误率从与用户无关模型的 14.1% 降低至基于 LDA 的 Learn++ 模型的 9.5%，相对提升了 33.1%。
• 对于某些受试者（如使用 CART 的受试者 3 和 6），当初始的与用户无关模型无法可靠分类某些活动类别时，个性化未能降低错误率。
• 结果表明，若初始的与用户无关模型准确率不足，个性化将无效，因为错误标注的数据会传播至个性化阶段。
• 即使每种活动仅使用 3 分钟的个人数据，该方法也实现了显著的准确率提升，表明若使用更大、更长期的个人数据集，仍有进一步提升的潜力。