[논문 리뷰] Multi-hypothesis 3D human pose estimation metrics favor miscalibrated distributions

Paweł A. Pierzchlewicz, R. Cotton외 2명|arXiv (Cornell University)|2022. 10. 20.

Human Pose and Action Recognition인용 수 5

한 줄 요약

이 논문은 다중 가설 3D 인간 자세 추정에서 minMPJPE를 최소화할 경우 평균 성능은 좋지만 확률 분포가 잘못 校정되는 결과를 밝혀냈다. 이를 해결하기 위해 저자들은 적절하게 校정된 모델인 조건부 그래프 정규화 플로우(cGNF)를 제안한다. 이는 적대적 훈련 없이 조건부 밀도와 근연 밀도를 동시에 추정하며, 망막이 가려진 관절에서 최신 기술 수준의 minMPJPE 성능을 달성하면서도 뛰어난 校정 성능 유지를 한다.

ABSTRACT

Due to depth ambiguities and occlusions, lifting 2D poses to 3D is a highly ill-posed problem. Well-calibrated distributions of possible poses can make these ambiguities explicit and preserve the resulting uncertainty for downstream tasks. This study shows that previous attempts, which account for these ambiguities via multiple hypotheses generation, produce miscalibrated distributions. We identify that miscalibration can be attributed to the use of sample-based metrics such as minMPJPE. In a series of simulations, we show that minimizing minMPJPE, as commonly done, should converge to the correct mean prediction. However, it fails to correctly capture the uncertainty, thus resulting in a miscalibrated distribution. To mitigate this problem, we propose an accurate and well-calibrated model called Conditional Graph Normalizing Flow (cGNFs). Our model is structured such that a single cGNF can estimate both conditional and marginal densities within the same model - effectively solving a zero-shot density estimation problem. We evaluate cGNF on the Human~3.6M dataset and show that cGNF provides a well-calibrated distribution estimate while being close to state-of-the-art in terms of overall minMPJPE. Furthermore, cGNF outperforms previous methods on occluded joints while it remains well-calibrated.

연구 동기 및 목표

• 샘플 기반 지표인 minMPJPE를 최소화할 경우 다중 가설 3D 자세 추정에서 확률 분포가 잘못 校정되는 이유를 탐구하기 위해.
• minMPJPE로 최적화된 모델이 평균 예측은 정확하지만 과신하는, 잘못된 불확실성 추정을 내보내는지 보여주기 위해.
• 3D 자세 추정에서 높은 수준의 minMPJPE 성능과 함께 잘 校정된 불확실성 추정을 동시에 달성하는 방법을 개발하기 위해.
• 별도의 사전/사후 네트워크나 적대적 훈련 없이도 조건부 및 근연 밀도를 동시에 추정할 수 있는 통합 모델을 도입하기 위해.
• 망막이 가려진 관절에서 불확실성이 가장 높고 校정이 가장 중요한 상황에서 모델의 성능을 평가하기 위해.

제안 방법

• 저자들은 2D 관절 키포인트를 기반으로 3D 자세의 조건부 밀도를 학습하는 정규화 플로우 기반 모델인 조건부 그래프 정규화 플로우(cGNF)를 제안한다. 이는 가역적이고 플로우 기반의 변환을 사용한다.
• cGNF는 단일 모델 내에서 조건부 사후분포와 근연 사전분포를 동시에 추정하여 별도의 네트워크나 적대적 훈련이 필요 없도록 한다.
• 모델은 음의 로그우도(NLL) 손실을 사용해 훈련되며, 이는 직접적으로 밀도 함수를 최적화함으로써 잘 校정된 불확실성 추정을 유도한다.
• 정확도를 높이되 校정 성능을 훼손하지 않기 위해, 저자들은 예측값이 진짜 자세와 일치하도록 유도하는 샘플 기반 손실 항목 $\mathcal{L}_{\text{sample}}$ 을 도입한다.
• 모델은 200개의 샘플을 사용해 추론할 때마다 Human 3.6M 데이터셋, 특히 망막이 가려진 관절이 포함된 H36MA 서브셋에서 평가된다.
• 교정 성능은 기대 교정 오차(ECE)를 사용해 평가되며, minMPJPE와 ECE 지표를 사용해 최신 기술 수준의 베이스라인과 성능을 비교한다.

실험 결과

연구 질문

• RQ1 다중 가설 3D 자세 추정에서 minMPJPE를 최소화할 경우 확률 분포가 잘못 校정되는가?
• RQ2 음의 로그우도 손실로 훈련된 모델이 minMPJPE 최적화 모델보다 더 나은 교정 성능을 달성할 수 있는가? 이때 정확도는 경쟁 가능할까?
• RQ3 적대적 훈련 없이도 단일 정규화 플로우 아키텍처 내에서 조건부 및 근연 밀도를 동시에 학습할 수 있는가?
• RQ4 제안된 cGNF 모델은 불확실성이 가장 높고 교정이 가장 중요한 망막이 가려진 관절에서 어떻게 성능을 내는가?
• RQ5 샘플 기반 손실 항목을 도입하면, 우도 최적화 모델에서 정확도는 향상되지만 교정 성능이 떨어지지 않는가?

주요 결과

• minMPJPE로 최적화된 모델는 낮은 평균 오차를 달성하지만, 여전히 잘못된 교정 성능을 보이며 과신하는 불확실성 추정을 내보낸다.
• NLL 손실로 훈련된 가우시안 모델은 잘 교정되어 있다(ECE = 0.07)지만 minMPJPE 성능은 낮다(60.1 mm), 반면 minMPJPE로 최적화된 가우시안 모델은 잘못 교정되어 있다(ECE = 0.42).
• cGNF 모델은 minMPJPE 57.5 mm와 ECE 0.08을 달성하여 정확도와 교정 성능 사이의 균형을 잘 유지하고 있음을 보여준다.
• 망막이 가려진 관절이 포함된 H36MA 서브셋에서 cGNF는 minMPJPE 47.0 mm와 ECE 0.07을 기록하여 두 지표에서 모두 이전 방법들을 능가한다.
• $\mathcal{L}_{\text{sample}}$ 손실 항목을 추가하면 minMPJPE는 53.0 mm로 향상되며 ECE는 약간 증가(0.08)할 뿐이므로 정확도 향상에 따른 교정 손실이 크지 않음을 보여준다.
• 모델 용량을 증가시키면 minMPJPE는 더 향상된다(xlarge 버전에서 48.5 mm), 하지만 교정 성능은 악화된다(ECE = 0.23)로서 성능 향상와 신뢰성 사이의 상충 관계를 보여준다.