[논문 리뷰] Curvature effects on the empirical mean in Riemannian and affine Manifolds: a non-asymptotic high concentration expansion in the small-sample regime

Xavier Pennec|arXiv (Cornell University)|2019. 06. 18.

Morphological variations and asymmetry참고 문헌 24인용 수 13

한 줄 요약

이 논문은 리만 다양체와 애핀 접속 다항체에서 경험적 프레셰 평균에 대한 비점근적 고집중 전개를 유도하며, 곡률이 평균에 $1/n$의 편향을 유도하고 공분산 수렴 속도를 곡률 텐서를 통해 조절함을 보여준다. 핵심 결과는 음의 곡률이 수렴 속도를 빠르게 하고(유클리드보다 빠름), 양의 곡률은 이를 느리게 하며, 카르처-켄달 농도 임계점에서 발산하는 스칼라 승수 인자이다.

ABSTRACT

The asymptotic concentration of the Fr{é}chet mean of IID random variables on a Rieman-nian manifold was established with a central limit theorem by Bhattacharya \& Patrangenaru (BP-CLT) [6]. This asymptotic result shows that the Fr{é}chet mean behaves almost as the usual Euclidean case for sufficiently concentrated distributions. However, the asymptotic covariance matrix of the empirical mean is modified by the expected Hessian of the squared distance. This Hessian matrix was explicitly computed in [5] for constant curvature spaces in order to relate it to the sectional curvature. Although explicit, the formula remains quite difficult to interpret, and the intuitive effect of the curvature on the asymptotic convergence remains unclear. Moreover, we are most often interested in the mean of a finite sample of small size in practice. In this work, we aim at understanding the effect of the manifold curvature in this small sample regime. Last but not least, one would like computable and interpretable approximations that can be extended from the empirical Fr{é}chet mean in Rie-mannian manifolds to the empirical exponential barycenters in affine connection manifolds. For distributions that are highly concentrated around their mean, and for any finite number of samples, we establish explicit Taylor expansions on the first and second moment of the empirical mean thanks to a new Taylor expansion of the Riemannian log-map in affine connection spaces. This shows that the empirical mean has a bias in 1/n proportional to the gradient of the curvature tensor contracted twice with the covariance matrix, and a modulation of the convergence rate of the covariance matrix proportional to the covariance-curvature tensor. We show that our non-asymptotic high concentration expansion is consistent with the asymptotic expansion of the BP-CLT. Experiments on constant curvature spaces demonstrate that both expansions are very accurate in their domain of validity. Moreover, the modulation of the convergence rate of the empirical mean's covariance matrix is explicitly encoded using a scalar multiplicative factor that gives an intuitive vision of the impact of the curvature: the variance of the empirical mean decreases faster than in the Euclidean case in negatively curved space forms, with an infinite speed for an infinite negative curvature. This suggests potential links with the stickiness of the Fr{é}chet mean described in stratified spaces. On the contrary, the variance of the empirical mean decreases more slowly than in the Euclidean case in positive curvature space forms, with divergence when we approach the limits of the Karcher \& Kendall concentration conditions with a uniform distribution on the equator of the sphere, for which the Fr{é}chet mean is not a single point any more.

연구 동기 및 목표

• 점근적 근사가 실패하는 소표본 영역에서 곡률이 경험적 프레셰 평균에 미치는 영향을 이해하기 위해.
• 점근 이론을 초월하여 경험적 평균의 일차 및 이차 모멘트에 대한 계산 가능하고 해석 가능한 근사 제공을 위해.
• 리만 다항체에서의 결과를 지수 바리센터를 통해 애핀 접속 다항체로 확장하기 위해.
• 특히 매우 높은 집중도를 가진 분포에서 곡률이 평균 추정 속도와 편향에 미치는 직관적 영향을 명확히 하기 위해.
• 비점근적 전개를 고집중 한계에서의 바타차리아-파트랑가루 중심극한정리와 조율하기 위해.

제안 방법

• 곡률 및 토르션 텐서와 그 공변도함수에만 의존하는 코 ordinate-free 타일러 전개를 사용하여 리만 로그 맵의 전개를 도출함. 이는 가브릴로프의 공식에 기반함.
• 이 전개를 활용하여 소표본 영역에서 경험적 평균의 일차 및 이차 모멘트에 대한 명시적 고차 근사를 계산함.
• 좌표 기반 전개 대신 텐서적이고 내재적인 표현을 사용함으로써 복잡한 인덱스 수축을 피하는 새로운 수식을 도입함.
• 공분산-곡률 텐서를 사용하여 곡률이 경험적 평균의 공분산 행렬 수렴 속도에 어떻게 조절되는지 정량화함.
• 고집중, 대표본 한계에서 바타차리아-파트랑가루 중심극한정리와의 일致성을 확립함.
• 일정 곡률 공간에서 전개를 검증하여 기존 점근적 결과와 일치함과 동시에 직관적인 스칼라 조절 인자를 제공함.

실험 결과

연구 질문

• RQ1 유한 표본 설정에서 곡률이 경험적 프레셰 평균의 편향에 어떻게 영향을 미치며, 이는 비점근적 전개로 포괄될 수 있는가?
• RQ2 리만 곡률 텐서가 경험적 평균의 공분산 행렬 수렴 속도에 미치는 정확한 역할은 무엇인가?
• RQ3 경험적 평균에 대한 곡률의 영향을 유클리드 사례 대비 수렴 속도의 가속 또는 감속을 포괄하는 단순한 스칼라 인자로 표현할 수 있는가?
• RQ4 비점근적 전개는 고집중 영역에서 점근적 바타차리아-파트랑가루 CLT와 어떻게 비교되는가?
• RQ5 이 틀을 리만 다항체에서 애핀 접속 다항체로 확장하여 지수 바리센터에 대해 일반화할 수 있는가?

주요 결과

• 경험적 프레셰 평균은 공분산 행렬과 두 번 수축된 곡률 텐서의 기울기 비례로 $1/n$ 차수의 편향을 보인다.
• 경험적 평균의 공분산 행렬 수렴 속도는 공분산-곡률 텐서에 의해 조절되며, 이는 곡률에 따라 달라지는 스칼라 승수 인자를 포함한다.
• 음의 곡률을 가진 공간 형태에서는 경험적 평균의 분산이 유클리드 사례보다 더 빨리 감소하며, 곡률이 음의 무한으로 갈수록 0에 수렴한다.
• 양의 곡률을 가진 공간 형태에서는 경험적 평균의 분산이 유클리드 사례보다 더 천천히 감소하며, 카르처-켄달 농도 조건에 접근함에 따라 발산한다. 예를 들어, 균일한 등위선 분포를 가진 구 위에서 발생한다.
• 비점근적 전개는 고집중 한계에서 바타차리아-파트랑가루 중심극한정리와 일치하여 정확성을 검증한다.
• 스칼라 조절 인자는 기하학적 직관을 제공한다: 음의 곡률은 집중을 강화하고, 양의 곡률은 이를 저해하며, 이는 계층적 공간에서의 스티키니스 현상과 연결될 수 있다.