[논문 리뷰] Relax, it doesn't matter how you get there: A new self-supervised approach for multi-timescale behavior analysis

Mehdi Azabou, Michael Mendelson외 5명|arXiv (Cornell University)|2023. 03. 15.

Anomaly Detection Techniques and Applications인용 수 4

한 줄 요약

이 논문은 짧은 시간 스케일과 긴 시간 스케일의 행동 동역학을 위한 별도의 잠재 공간을 사용하는 자기지도 학습 다중 시간 스케일 표현 학습 프레임워크인 Bootstrap Across Multiple Scales(BAMS)를 제안한다. 미래 행동 분포를 순서가 아닌 분포로 예측하고, 음성 샘플이 없는 잠재 예측 손실을 통해 훈련함으로써, MABe 2022 벤치마크에서 최상의 성능을 기록하여 종합 1위 및 모든 순서 수준 작업에서 1위를 차지하였다.

ABSTRACT

Natural behavior consists of dynamics that are complex and unpredictable, especially when trying to predict many steps into the future. While some success has been found in building representations of behavior under constrained or simplified task-based conditions, many of these models cannot be applied to free and naturalistic settings where behavior becomes increasingly hard to model. In this work, we develop a multi-task representation learning model for behavior that combines two novel components: (i) An action prediction objective that aims to predict the distribution of actions over future timesteps, and (ii) A multi-scale architecture that builds separate latent spaces to accommodate short- and long-term dynamics. After demonstrating the ability of the method to build representations of both local and global dynamics in realistic robots in varying environments and terrains, we apply our method to the MABe 2022 Multi-agent behavior challenge, where our model ranks 1st overall and on all global tasks, and 1st or 2nd on 7 out of 9 frame-level tasks. In all of these cases, we show that our model can build representations that capture the many different factors that drive behavior and solve a wide range of downstream tasks.

연구 동기 및 목표

• 자연스러운 환경에서 애너테이션이 부족한 조건에서 복잡한 다중 시간 스케일 행동 동역학을 모델링하는 도전 과제를 해결하기 위해.
• 세부적인 짧은 시간 동역학과 전반적인 장기 행동 패턴을 모두 포괄하는 자기지도 학습 표현 학습 방법을 개발하기 위해.
• 프레임 수준 및 순서 수준 예측을 포함한 다양한 행동 분석 작업에서 강력한 최종 작업 성능을 보장하기 위해.
• 기존의 대조 또는 재구성 기반 방법이 너무 좁은 지역 동역학에 집중하거나 시간 스케일을 분리하지 못하는 한계를 극복하기 위해.

제안 방법

• 각기 다른 수신장이 있는 두 개의 별도 시간 컬러션 네트워크를 사용하여 별도의 짧은 시간 및 긴 시간 잠재 공간에서 표현을 학습한다.
• 정확한 행동 순서를 예측하는 것이 아니라 향후 타임스텝 동안 행동의 분포를 예측하는 새로운 행동 예측 목적을 도입한다.
• 각 시간 스케일 내에서 음성 샘플이 필요 없는, 오직 양성 샘플에 의존하는 자기지도 기반 부트스트랩 훈련 체계를 사용한다.
• 예측된 행동 분포를 표현 공간에서의 진짜 향후 행동 분포와 일치시키기 위해 예측 회귀 손실을 적용한다.
• 각 공간에서의 해상도를 유지하면서 시간 스케일에 특화된 동역학을 분리함으로써 장기 시퀀스 처리가 가능하게 한다.
• 각 시간 스케일 내에서 대조 유사 목적을 사용하여 엔드 투 엔드로 훈련되지만, 음성 쌍이 필요 없어 장기 시퀀스에 대한 확장성이 향상된다.

실험 결과

연구 질문

• RQ1 자기지도 모델은 명시적 지도 없이도 짧은 시간 동역학과 긴 시간 동역학의 표현을 분리하여 학습할 수 있는가?
• RQ2 순서가 아닌 미래 행동 분포를 예측하는 것이 복잡한 다중 시간 스케일 행동을 더 잘 모델링하는가?
• RQ3 특정 작업에 맞춘 미세조정 없이도 다양한 행동 작업, 특히 프레임 수준 및 순서 수준 예측에 일반화 가능한가?
• RQ4 다른 시간 스케일에 대한 잠재 공간의 분리가 전반적인 행동 패턴을 포함하는 최종 작업 성능에 어떤 영향을 미치는가?

주요 결과

• MABe 2022 다중 에이전트 행동 챌린지에서 종합 1위를 기록하였으며, 4개의 순서 수준 작업 전부에서 1위를 차지하고, 9개의 프레임 수준 작업 중 3위 이내에 들었다.
• 마우스 품종 복원 작업에서 다음으로 좋은 방법보다 10%의 성능 격차를 확보하여 강력한 전반적 표현 학습 능력을 입증하였다.
• 합성 4족 보행 로봇 환경에서 명시적 지도 없이도 로봇 형태적 특성과 지형 동역학을 성공적으로 포착하였다.
• 기존의 대조 및 재구성 기반 접근 방식보다 세부적인 시간 동역학을 유지하면서도 장기 행동 구조를 모델링함으로써 슈퍼리어한 성능을 기록하였다.
• 훈련 중 음성 샘플이 없어 일반적인 대조 방법보다 더 긴 시퀀스를 처리할 수 있었으며, 확장성 향상에 기여하였다.