[論文レビュー] Exploring Contrastive Learning in Human Activity Recognition for Healthcare

Chi Ian Tang, Ignacio Perez-Pozuelo+2 more|arXiv (Cornell University)|Nov 23, 2020

Context-Aware Activity Recognition Systems参考文献 24被引用数 56

ひとこと要約

本論文は SimCLR スタイルの対照学習をセンサーベースの HAR に適用し、時系列データの拡張が性能に与える影響を体系的に検討する。特に回転などの一部の拡張は、ファインチューニング時に監督付きトレーニングよりも大きな改善をもたらす可能性がある。

ABSTRACT

Human Activity Recognition (HAR) constitutes one of the most important tasks for wearable and mobile sensing given its implications in human well-being and health monitoring. Motivated by the limitations of labeled datasets in HAR, particularly when employed in healthcare-related applications, this work explores the adoption and adaptation of SimCLR, a contrastive learning technique for visual representations, to HAR. The use of contrastive learning objectives causes the representations of corresponding views to be more similar, and those of non-corresponding views to be more different. After an extensive evaluation exploring 64 combinations of different signal transformations for augmenting the data, we observed significant performance differences owing to the order and the function thereof. In particular, preliminary results indicated an improvement over supervised and unsupervised learning methods when using fine-tuning and random rotation for augmentation, however, future work should explore under which conditions SimCLR is beneficial for HAR systems and other healthcare-related applications.

研究の動機と目的

• ラベル付きデータが限られている中で、HARを健康上重要なタスクとして動機づける。
• 対照学習が監督学習よりHARの表現を改善できるかを調査する。
• 適切な時系列拡張を用いてウェアラブルセンサデータにSimCLRを適応させる。
• MotionSenseで異なる拡張の組み合わせがHARの性能にどのように影響するかを定量化する。

提案手法

• 時系列変換を正例として用いることでSimCLRフレームワークをHARに適応させる。
• 軽量なベースエンコーダ（TPN）とNT-Xent損失を用いた3層MLPプロジェクションヘッドを採用する。
• 対照学習の拡張ビューを生成するために8つの時系列変換を使用する。
• MotionSenseデータセットで線形およびファインチューニング後の下流分類器を評価する。
• 200エポック、バッチサイズ512、コサイン減衰を用いた SGD で事前学習し、その後線形およびファインチューニングプロトコルで評価する。

実験結果

リサーチクエスチョン

• RQ1 対照学習は完全に教師あり学習と比較して、ラベルなしセンサデータからHAR表現を改善できるか。
• RQ2 どの時系列拡張とその組み合わせが線形およびファインチューニング評価でHARの性能を最大化するか。
• RQ3 MotionSense におけるセンサデータを用いた SimCLR 前提学習が、従来の自己教師ありおよび教師あり HAR 手法とどのように比較されるか。

主な発見

• 線形評価では、チャネルシャッフリングとパーミュテーションを組み合わせると平均 F1 が 0.872 に達した。
• ファインチューニング評価では、ランダム回転のみで最高の F1 は 0.942 であった。
• いくつかの拡張の組み合わせは大幅な性能低下を招き、線形評価で最大で 0.278 F1 ポイントの低下を引き起こした。
• 適応したSimCLRは完全に監督されたモデルより最大で 0.020 のゲインをもたらした。
• この設定では、純粋な教師ありおよび従来の自己教師付きHARベースラインでF1スコアは約0.922–0.923となった。