[논문 리뷰] Stratified Transfer Learning for Cross-domain Activity Recognition

Jindong Wang, Yiqiang Chen외 3명|arXiv (Cornell University)|2017. 12. 25.

Context-Aware Activity Recognition Systems참고 문헌 33인용 수 37

한 줄 요약

이 논문은 전역적 도메인 이탈에 의존하는 것보다 내부 클래스 유사도를 활용함으로써 분류 정확도를 향상시키는 새로운 교차 도메인 활동 인식 프레임워크인 계층적 전이 학습(Stochastic Transfer Learning, STL)을 제안한다. 의사 레이블링과 내부 클래스 지식 전이를 반복적으로 수행함으로써 클래스별 하위공간을 학습함으로써, STL은 OPPORTUNITY, PAMAP2 및 UCI DSADS 세 개의 공개 데이터셋에서 최신 기술 대비 7.68%의 정확도 향상을 달성한다.

ABSTRACT

In activity recognition, it is often expensive and time-consuming to acquire sufficient activity labels. To solve this problem, transfer learning leverages the labeled samples from the source domain to annotate the target domain which has few or none labels. Existing approaches typically consider learning a global domain shift while ignoring the intra-affinity between classes, which will hinder the performance of the algorithms. In this paper, we propose a novel and general cross-domain learning framework that can exploit the intra-affinity of classes to perform intra-class knowledge transfer. The proposed framework, referred to as Stratified Transfer Learning (STL), can dramatically improve the classification accuracy for cross-domain activity recognition. Specifically, STL first obtains pseudo labels for the target domain via majority voting technique. Then, it performs intra-class knowledge transfer iteratively to transform both domains into the same subspaces. Finally, the labels of target domain are obtained via the second annotation. To evaluate the performance of STL, we conduct comprehensive experiments on three large public activity recognition datasets~(i.e. OPPORTUNITY, PAMAP2, and UCI DSADS), which demonstrates that STL significantly outperforms other state-of-the-art methods w.r.t. classification accuracy (improvement of 7.68%). Furthermore, we extensively investigate the performance of STL across different degrees of similarities and activity levels between domains. And we also discuss the potential of STL in other pervasive computing applications to provide empirical experience for future research.

연구 동기 및 목표

• 레이블 부족 문제를 해결하기 위해 레이블이 있는 소스 도메인에서 레이블이 없는 타겟 도메인으로 지식 전이를 가능하게 하기 위해.
• 기존 전이 학습 방법이 전역적 도메인 이탈에 의존하고 내부 클래스 관계를 忽시하는 한계를 극복하기 위해.
• 클래스 내 유사도를 활용하여 교차 도메인 환경에서 분류의 강건성과 정확도를 향상시키는 일반화 가능한 프레임워크를 개발하기 위해.
• 실제 퍼스피asive 컴퓨팅 응용 분야에서 도메인 유사도와 활동 복잡도의 다양한 수준에서 STL의 효과성을 입증하기 위해.

제안 방법

• 레이블이 없는 타겟 도메인 샘플에 대해 신뢰도 높은 의사 레이블을 생성하기 위해 다수결 투표 기법을 사용한다.
• 소스 도메인과 타겟 도메인의 대응 클래스를 공유되는 클래스별 하위공간에 정렬함으로써 반복적인 내부 클래스 지식 전이를 수행한다.
• 클래스별 투영 행렬을 사용하여 소스 및 타겟 도메인을 동일한 저차원 하위공간으로 변환함으로써 내부 클래스의 응집도를 유지한다.
• 정렬된 내부 클래스 인식 가능 표현을 기반으로 타겟 도메인의 최종 레이블을 예측하기 위해 두 번째 주석 단계를 적용한다.
• 도메인 정렬과 특징 유지 간의 균형을 맞추기 위해 무작위 매개변수 λ와 차원 수 m을 통합하며, m에 대한 강건성에 대한 경험적 검증을 수행한다.
• 각 단계를 특정 응용 맥락에 맞게 커스터마이징할 수 있도록 모듈러하고 유연한 프레임워크를 설계한다.

실험 결과

연구 질문

• RQ1 소스 도메인과 타겟 도메인 간의 내부 클래스 유사도가 전역적 도메인 이탈을 초월하여 교차 도메인 활동 인식 성능을 향상시키는 데 효과적으로 활용될 수 있는가?
• RQ2 STL의 성능는 도메인 유사도 수준과 활동 복잡도의 다양한 수준에서 어떻게 변화하는가?
• RQ3 실제 HAR 데이터셋에서 기존 최신 기술 대비 STL의 분류 정확도 향상 수준은 어느 정도인가?
• RQ4 특징 공간 내 선택된 차원 수(m)의 변동에 대해 STL의 강건성은 어느 정도인가?
• RQ5 활동 인식을 초월한 더 넓은 퍼스피asive 컴퓨팅 응용 분야에서 STL의 실용적 함의와 일반화 가능성은 무엇인가?

주요 결과

• STL는 OPPORTUNITY, PAMAP2 및 UCI DSADS 세 개의 대규모 공개 데이터셋에서 다섯 가지 최신 기술 대비 7.68% 높은 분류 정확도를 달성한다.
• 차원 수 하이퍼파rameter m의 다양한 값에서도 STL의 성능는 안정적이고 일관되게 뛰어나며, 다양한 특징 공간 차원에 대한 강건성을 입증한다.
• PCA, LLE 및 KPCA와 같은 전통적인 차원 축소 기법보다 STL이 내부 클래스 관계를 명시적으로 모델링함으로써 전역적 구조에 의존하지 않아 성능이 뛰어나다.
• 클래스별 하위공간에 초점을 맞춤으로써 도메인 이탈의 부정적 영향을 효과적으로 완화하여, 서로 다른 도메인 간 동일 클래스 샘플의 응집도가 높아진다.
• 광범위한 아블레이션 연구를 통해 다수결 기반 의사 레이블링과 반복적인 내부 클래스 정렬이 프레임워크 성공의 핵심 요소임을 확인한다.
• STL는 WiFi 위치 기반, 제스처 인식, 스마트 홈 센싱 등 다른 퍼스피asive 컴퓨팅 작업, 특히 교차 장치/사용자/위치 기반 활동 인식에 응용 가능성이 높다.