[논문 리뷰] Minimax manifold estimation

Christopher R. Genovese, Marco Perone-Pacifico외 2명|arXiv (Cornell University)|2012. 01. 01.

Topological and Geometric Data Analysis참고 문헌 17인용 수 84

한 줄 요약

이 논문은 노이즈가 섞인 표본을 이용해 RD에 임bed된 d차원의 다양체 M를 추정할 때의 최소최대 수렴 속도를 규명한다. 하우스도르프 거리에서 최적의 수렴 속도가 n^(-2/(2+d))임을 보이며, 이 결과는 주어진 정규성 조건 하에서 수렴 속도가 다양체의 내재 차원 d에만 의존하며, 환경 차원 D에는 영향을 받지 않는다는 것을 드러낸다.

ABSTRACT

We find the minimax rate of convergence in Hausdorff distance for estimating a manifold M of dimension d embedded in RD given a noisy sample from the manifold. Under certain conditions, we show that the optimal rate of convergence is n-2/(2+d). Thus, the minimax rate depends only on the dimension of the manifold, not on the dimension of the space in which M is embedded.

연구 동기 및 목표

• 노이즈가 섞인 표본으로부터 다양체를 추정할 때의 최적 수렴 속도를 결정하는 것.
• 수렴 속도가 내재 차원 d와 환경 차원 D에 어떻게 의존하는지 분석하는 것.
• 정규성 조건 하에서 하우스도르프 거리 추정에 대한 최소최대 하한 및 상한을 설정하는 것.
• 최소최대 속도가 다양체의 차원 d에 의해 결정되며, D에 의해 영향을 받지 않는다는 것을 보여주는 것.

제안 방법

• 정보이론적 기법을 사용하여 하우스도르프 거리 추정에 대한 최소최대 하한을 유도한다.
• 유도된 속도에 도달하는 최소최대 최적 추정기(estimator)를 구성한다.
• 다양체에 대한 정규성 조건(예: 유한 곡률과 도달 값)을 적용한다.
• 진짜 다양체와 추정된 다양체 사이의 하우스도르프 거리에서의 추정 오차를 분석한다.
• 커버링 및 패킹 추론을 사용하여 다양체 클래스의 복잡성을 특성화한다.
• 조건이 주어진 상황에서 속도 n^(-2/(2+d))가 향상될 수 없음을 보여준다.

실험 결과

연구 질문

• RQ1 노이즈가 섞인 표본으로부터 d차원 다양체를 하우스도르프 거리에서 추정할 때의 최소최대 수렴 속도는 무엇인가?
• RQ2 수렴 속도는 내재 차원 d와 환경 차원 D에 어떻게 의존하는가?
• RQ3 다양체에 대한 정규성 조건 하에서 속도 n^(-2/(2+d))는 향상될 수 없는가?
• RQ4 이 조건 하에서 실용적인 추정기로 최소최대 속도를 달성할 수 있는가?

주요 결과

• d차원 다양체의 하우스도르프 거리에서의 최소최대 수렴 속도는 n^(-2/(2+d))이다.
• 속도는 환경 차원 D가 아니라 내재 차원 d에만 의존한다.
• 주어진 정규성 조건 하에서 이 속도는 향상될 수 없다.
• 유한 곡률과 양의 도달 값을 가진 다양체에 대해서도 이 결과가 성립한다.
• 최소최대 속도는 동일한 조건 하에서 일致한 추정기(consistent estimator)에 의해 달성된다.
• 분석 결과, d가 고정되어 있을 경우 높은 환경 차원 D가 추정을 방해하지 않는다는 것이 드러났다.