[论文解读] Exploring Contrastive Learning in Human Activity Recognition for Healthcare

Chi Ian Tang, Ignacio Perez-Pozuelo+2 more|arXiv (Cornell University)|Nov 23, 2020

Context-Aware Activity Recognition Systems参考文献 24被引用 56

一句话总结

本论文将 SimCLR 风格的对比学习应用于基于传感器的 HAR，并系统研究时间序列增强对性能的影响，结果显示某些增强，尤其是旋转，在微调时相较于监督训练能带来显著提升。

ABSTRACT

Human Activity Recognition (HAR) constitutes one of the most important tasks for wearable and mobile sensing given its implications in human well-being and health monitoring. Motivated by the limitations of labeled datasets in HAR, particularly when employed in healthcare-related applications, this work explores the adoption and adaptation of SimCLR, a contrastive learning technique for visual representations, to HAR. The use of contrastive learning objectives causes the representations of corresponding views to be more similar, and those of non-corresponding views to be more different. After an extensive evaluation exploring 64 combinations of different signal transformations for augmenting the data, we observed significant performance differences owing to the order and the function thereof. In particular, preliminary results indicated an improvement over supervised and unsupervised learning methods when using fine-tuning and random rotation for augmentation, however, future work should explore under which conditions SimCLR is beneficial for HAR systems and other healthcare-related applications.

研究动机与目标

• 将 HAR 作为一个健康领域关键任务来激励研究，且标注数据有限。
• 研究对比学习是否能在 HAR 表现上优于有监督方法的表示。
• 将 SimCLR 适配到可穿戴传感器数据，并采用合适的时间序列增强。
• 量化不同增强组合对 MotionSense 上 HAR 性能的影响。

提出的方法

• 通过将时间序列变换作为正样本对，将 SimCLR 框架适配到 HAR。
• 采用轻量级基础编码器（TPN）和三层 MLP 投影头，使用 NT-Xent 损失。
• 使用八种时间序列变换来生成对比学习的增强视图。
• 在 MotionSense 数据集上评估线性和微调下游分类器。
• 以 200 轮、批量大小 512 进行预训练，使用带余弦衰减的 SGD，然后在线性和微调协议下进行评估。

实验结果

研究问题

• RQ1 对比学习能否从无标签传感器数据中改进 HAR 的表示，相较于完全有监督学习？
• RQ2 哪些时间序列增强及其组合在线性和微调评估中能最大化 HAR 性能？
• RQ3 在 MotionSense 上，使用传感器数据进行的 SimCLR 预训练与以往的自监督和有监督 HAR 方法相比如何？

主要发现

• 在线性评估中，通道乱序和置换的组合实现了平均 F1 为 0.872。
• 在微调评估中，单独的随机旋转取得了最高 F1，为 0.942。
• 某些增强组合导致性能大幅下降，在线性评估中下降幅度最高达到 0.278 个 F1 点。
• 改编后的 SimCLR 相对完全监督模型的提升最高达到 0.020。
• 在此设置下，纯监督和之前的自监督 HAR 基线的 F1 分数约为 0.922–0.923。