[논문 리뷰] Proactive Multi-Camera Collaboration For 3D Human Pose Estimation

Hai Ci, Mickel Liu외 3명|arXiv (Cornell University)|2023. 03. 07.

Human Pose and Action Recognition인용 수 6

한 줄 요약

이 논문은 다중 에이전트 강화학습(MARL)을 활용한 능동적 다중 카메라 협업 프레임워크를 제안하며, 동적인 군중에서의 신뢰도 할당 문제와 가림 문제를 해결하기 위해 새로운 협업 삼각측정 기여 보상(CTCR)을 도입한다. 세계 동역학 학습과 CTCR를 통합함으로써, 재구성 정확도와 수렴 속도를 향상시키는 탈중앙화된 적응형 카메라 편대를 가능하게 하여, 3~5대의 카메라와 최대 6명의 인간을 포함한 사진 수준의 실감 나는 UE4 환경에서 고정형 및 능동형 기준선을 능가한다.

ABSTRACT

This paper presents a multi-agent reinforcement learning (MARL) scheme for proactive Multi-Camera Collaboration in 3D Human Pose Estimation in dynamic human crowds. Traditional fixed-viewpoint multi-camera solutions for human motion capture (MoCap) are limited in capture space and susceptible to dynamic occlusions. Active camera approaches proactively control camera poses to find optimal viewpoints for 3D reconstruction. However, current methods still face challenges with credit assignment and environment dynamics. To address these issues, our proposed method introduces a novel Collaborative Triangulation Contribution Reward (CTCR) that improves convergence and alleviates multi-agent credit assignment issues resulting from using 3D reconstruction accuracy as the shared reward. Additionally, we jointly train our model with multiple world dynamics learning tasks to better capture environment dynamics and encourage anticipatory behaviors for occlusion avoidance. We evaluate our proposed method in four photo-realistic UE4 environments to ensure validity and generalizability. Empirical results show that our method outperforms fixed and active baselines in various scenarios with different numbers of cameras and humans.

연구 동기 및 목표

• 고정 카메라 시스템의 한계를 해결하기 위해, 가림과 제한된 촬영 공간으로 인해 3D 재구성이 어려운 동적인 인간 군중 환경에서의 문제를 해결한다.
• 공동 팀 보상에 의해 가려지는 개별 에이전트 기여도가 드러나지 않는 능동 카메라 시스템에서의 다중 에이전트 신뢰도 할당 문제를 해결한다.
• 가림을 예측하고 최적의 다각도 삼각측정을 유지하기 위해 능동적이고 탈중앙화된 카메라 협업을 가능하게 한다.
• 고밀도의 인간이 존재하는 복잡한 실시간 환경에서 일반화 가능하고 확장 가능한 다중 카메라 시스템 솔루션을 개발한다.

제안 방법

• 실시간 분산 카메라 제어를 위한 탈중앙화된 정책을 사용하는 다중 에이전트 강화학습(MARL) 기반의 방법이다.
• 에이전트 간 협업의 기여도를 정량화하기 위해 셰플리 값에서 영감을 얻은 협업 삼각측정 기여 보상(CTCR)을 도입한다. CTCR는 모든 가능한 연합에 대해 각 에이전트의 경계 기여도를 계산한다.
• CTCR는 다른 에이전트의 모든 부분집합에 대해 가중 평균 경계 기여도를 계산하여, 공정한 신뢰도 할당을 보장하고 가림 회피를 장려한다.
• 세부적으로 정책과 함께 공동으로 훈련되는 세계 동역학 학습(WDL)은 목표 위치 예측, 보행자 위치 예측, 자기 상태 예측, 팀원 상태 예측, 팀 보상 예측의 다섯 가지 보조 과제를 수행한다.
• 다양한 군중 역학을 고려한 현실감 있는 UE4 환경(UnrealPose)에서 훈련하여 현실성과 일반화 능력을 확보한다.
• 카메라 에이전트는 대상으로부터 2~3m 거리를 유지하고, 상향 시야를 확보하기 위해 음수의 피치 각도를 취하며, 방향 간 최소 각도를 유지하여 중복되지 않는 다양한 시야를 확보한다.

실험 결과

연구 질문

• RQ1 탈중앙화된 MARL 프레임워크는 동적인 가림이 빈번한 군중 환경에서 다수의 능동 카메라를 효과적으로 조율하여 고정밀 3D 인간 자세 재구성을 달성할 수 있는가?
• RQ2 공동 팀 보상으로 인해 개별 에이전트의 기여도가 가려지는 다중 에이전트 3D 재구성 시스템에서 신뢰도 할당은 어떻게 향상될 수 있는가?
• RQ3 세계 동역학 학습을 통합함으로써 인간의 운동과 가림 패턴을 예측하는 데 카메라 제어 정책이 얼마나 향상되는가?
• RQ4 자기 조직화된 카메라 편대와 행동(예: 최적 거리, 피치 각도, 각도 분포)은 삼각측정 정확도 향상에 어떤 기여를 하는가?

주요 결과

• 제안된 방법은 3~5대의 카메라와 최대 6명의 인간을 포함한 모든 시험 환경에서 고정형 및 능동형 기준선을 능가하는 3D 인간 자세 추정 정확도를 확보한다.
• CTCR 보상은 개별 에이전트 성능과 팀 성과 간 직접적인 연결을 통해 정책 수렴 속도를 크게 향상시키고 재구성 정확도를 향상시킨다.
• 카메라 에이전트는 대상으로부터 안전한 2~3m 거리를 유지하며, 지나친 가까움과 멀어짐을 피하고 안전 제약 조건을 준수한다.
• 에이전트들은 음수의 피치 각도(위에서 내려다보는 시야)와 카메라 간 최소 각도를 확보함으로써 전략적 편대를 형성하여 중복되지 않는 다양한 시야를 확보하고, 견고한 삼각측정을 실현한다.
• 세계 동역학 학습은 인간의 운동과 동적인 가림을 예측할 수 있도록 하여, 재구성 실패를 줄이는 능동적인 카메라 조정을 가능하게 한다.
• CTCR 메커니즘은 가려진 카메라를 효과적으로 처벌하고 '게으른 에이전트 문제'를 감소시켜 팀 전반의 균형 잡힌 효과적인 협업을 이끈다.