[论文解读] Personalized Human Activity Recognition Using Convolutional Neural Networks

Seyed Ali Rokni, Marjan Nourollahi+1 more|arXiv (Cornell University)|Jan 25, 2018

Context-Aware Activity Recognition Systems被引用 11

一句话总结

本文提出一种基于一维卷积神经网络（CNN）的迁移学习框架，用于在用户标注数据极少的情况下实现个性化人体活动识别。通过冻结在源人群上预训练的低层CNN参数，并仅在新用户提供的少量标注样本上微调分类层，该方法即使在监督信息有限的情况下仍能实现高准确率，在跨用户场景中显著优于传统分类器。

ABSTRACT

A major barrier to the personalized Human Activity Recognition using wearable sensors is that the performance of the recognition model drops significantly upon adoption of the system by new users or changes in physical/ behavioral status of users. Therefore, the model needs to be retrained by collecting new labeled data in the new context. In this study, we develop a transfer learning framework using convolutional neural networks to build a personalized activity recognition model with minimal user supervision.

研究动机与目标

• 解决HAR模型在部署到新用户或物理/行为条件变化时性能下降的挑战。
• 通过实现极少量人工监督，减少对新用户昂贵的手动数据标注和特征工程的依赖。
• 开发一种个性化HAR系统，利用源域的预训练表征快速适应新用户（目标域）。
• 证明即使仅提供少量标注样本，CNN的迁移学习也能在新用户上保持高准确率。
• 通过表示学习和参数共享降低模型复杂度，实现在嵌入式设备上的高效部署。

提出的方法

• 将3D加速度计数据分割为固定大小的窗口（w），形成每个传感器的3通道输入，当结合SDA数据集中的5个传感器时，输入通道数为15。
• 应用离散化层以降低对微小信号波动和传感器校准差异的敏感性，提升域泛化能力。
• 将离散化序列输入嵌入层，生成用户和传感器间共享的紧凑表征。
• 使用带有ReLU激活函数和最大池化的1D卷积层堆叠，提取分层的、尺度不变的特征，同时降低维度。
• 应用Dropout正则化，在新用户上微调时防止过拟合。
• 实施迁移卷积（TrC）方法：冻结预训练网络的所有低层参数，仅使用新用户每类3个标注样本对最终分类层进行微调。

实验结果

研究问题

• RQ1 能否仅用新用户提供的少量标注样本有效微调预训练的CNN模型，以实现高人体活动识别准确率？
• RQ2 在跨用户HAR场景中，所提出的迁移学习方法与传统机器学习分类器（如SVM、随机森林）相比表现如何？
• RQ3 通过离散化和嵌入实现的表示学习在多大程度上提升了模型在不同用户和传感器校准条件下的鲁棒性？
• RQ4 将源用户组训练的低层卷积层特征迁移到新目标用户，是否能显著提升在极小数据量下的性能？
• RQ5 该模型是否能在无需从头重新训练的情况下，保持在非受控真实环境中的高性能？

主要发现

• 所提出的迁移卷积（TrC）方法在仅使用每类3个标注样本的情况下，显著提升了新用户的人体活动识别准确率，优于传统分类器。
• 通过迁移学习，即使新用户的数据分布与源组训练分布不同，模型仍能保持高准确率。
• 离散化与嵌入层的结合降低了对传感器校准差异和微小信号波动的敏感性，提升了跨用户的泛化能力。
• TrC方法在SDA和WISDM数据集的全部留一用户交叉验证中表现稳定，展现出强鲁棒性与可扩展性。
• 仅微调分类层而冻结低层参数，保留了通用特征，实现了计算成本极低的高效适应。
• 该方法减少了对大规模数据采集和手动特征工程的依赖，使个性化HAR系统能够在真实环境中实现快速部署。