[논문 리뷰] Gated Adaptation for Continual Learning in Human Activity Recognition

Reza Rahimi Azghan, Gautham Krishna Gudur외 5명|arXiv (Cornell University)|2026. 03. 08.

Context-Aware Activity Recognition Systems인용 수 0

한 줄 요약

이 논문은 채널-별 게이트 모듈레이션을 사용하는 파라미터 효율적 지속 학습 접근법을 HAR에 제시하며, Frozen pretrained backbone으로 잊춤 감소 및 정확도 향상, trainable parameters < 2%를 달성한다.

ABSTRACT

Wearable sensors in Internet of Things (IoT) ecosystems increasingly support applications such as remote health monitoring, elderly care, and smart home automation, all of which rely on robust human activity recognition (HAR). Continual learning systems must balance plasticity (learning new tasks) with stability (retaining prior knowledge), yet AI models often exhibit catastrophic forgetting, where learning new tasks degrades performance on earlier ones. This challenge is especially acute in domain-incremental HAR, where on-device models must adapt to new subjects with distinct movement patterns while maintaining accuracy on prior subjects without transmitting sensitive data to the cloud. We propose a parameter-efficient continual learning framework based on channel-wise gated modulation of frozen pretrained representations. Our key insight is that adaptation should operate through feature selection rather than feature generation: by restricting learned transformations to diagonal scaling of existing features, we preserve the geometry of pretrained representations while enabling subject-specific modulation. We provide a theoretical analysis showing that gating implements a bounded diagonal operator that limits representational drift compared to unconstrained linear transformations. Empirically, freezing the backbone substantially reduces forgetting, and lightweight gates restore lost adaptation capacity, achieving stability and plasticity simultaneously. On PAMAP2 with 8 sequential subjects, our approach reduces forgetting from 39.7% to 16.2% and improves final accuracy from 56.7% to 77.7%, while training less than 2% of parameters. Our method matches or exceeds standard continual learning baselines without replay buffers or task-specific regularization, confirming that structured diagonal operators are effective and efficient under distribution shift.

연구 동기 및 목표

• 에지 디바이스에서의 도메인 증가 HAR에서의 재앙적 망각 문제를 해결한다.
• 최소한의 학습 가능한 매개변수로 안정성-가소성 트레이드를 달성한다.
• 게이트화된 적응 하에서 한정된 표현 드리프트에 대한 이론적 보장을 제공한다.
• 주체별 분포 변화가 있는 다수의 HAR 벤치마크에서 효능을 입증한다.
• 데이터 재생 없이 온-디바이스 지속 학습의 실용성을 강조한다.

제안 방법

• 사전 학습된 HAR 백본을 동결하고 각 백본 블록 뒤에 가벼운 채널-별 게이트를 추가한다.
• 글로벌 풀링을 통해 채널 디스크립터를 계산하고, 병목 동작을 거쳐 게이트 g_l를 생성한 후 U_l에 대각 스케일링 D(g_l)을 적용한다.
• 백본은 고정된 채 두, 게이트 매개변수와 공유 분류기만 학습한다.
• 최종 로짓을 얻기 위해 시간적 풀링으로 여러 작업에 걸쳐 학습된 공유 선형 분류기를 사용한다.
• 게이팅이 한정된 대각 연산자를 유도하여 드리프트를 제한한다는 이론적 분석을 제공한다.

Figure 1: Catastrophic forgetting in subject-incremental HAR: accuracy on Subject 1 drops from 85% to 40% after training on just three additional subjects (PAMAP2 dataset).

실험 결과

연구 질문

• RQ1 frozen 백본에서의 대각 채널-별 게이팅이 HAR의 주체 유도 도메인 이동에 대한 안정적 지속 적응을 제공할 수 있는가?
• RQ2 게이트화된 적응이 HAR 벤치마크에서 망각 및 최종 정확도 측면에서 전체 미세 조정이나 최소 적응과 비교해 어떤 차이가 있는가?
• RQ3 도메인 증가 학습하에서 게이트화된 적응의 특성 드리프트 및 로짓 안정성에 대한 이론적 보장은 무엇인가?
• RQ4 새로운 HAR 피실험자에서 경쟁력 있는 성능을 달성하기 위해 모델 매개변수의 어떤 비율을 학습해야 하는가?
• RQ5 제안된 게이트가 HAR 데이터셋에서 관찰되는 채널-별 도메인 이동 하에서 충분한가?

주요 결과

• PAMAP2에서 8명의 연속 피실험자에 대해 망각이 39.7%(학습 가능한 백본)에서 16.2%로 감소했다.
• 최종 정확도가 56.7%에서 77.7%로 향상되었다.
• 학습 매개변수의 비중이 2% 미만이다.
• 게이트 기반 적응은 재생 버퍼나 작업별 정규화 없이도 표준 지속 학습 벤치마크와 동등하거나 그 이상을 달성한다.
• 세 개의 HAR 벤치마크(PAMAP2, UCI-HAR, DSA)에서 도메인 증가 설정 하에 최대 피실험자 30명까지 일관된 개선이 나타났다.

Figure 2: Overview of the proposed continual learning system for HAR, comprising data collection, preprocessing, and a classification model with a frozen pretrained backbone modulated by lightweight trainable gates.