[논문 리뷰] An averaged projected Robbins-Monro algorithm for estimating the parameters of a truncated spherical distribution

Antoine Godichon‐Baggioni, Bruno Portier|arXiv (Cornell University)|2016. 06. 14.

Robotics and Sensor-Based Localization참고 문헌 23인용 수 6

한 줄 요약

이 논문은 노이즈가 있는 3D 점군에서 조각내어진 데이터일지라도 구의 중심과 반경을 추정하기 위한 평균화된 투영된 Robbins-Monro 알고리즘을 제안한다. 이 방법은 거의 확실 수렴성과 점근 정규성을 보장하며, 비점근 수렴 속도를 제곱평균에서 입증하였고, 소규모에서 중간 규모의 표본 크기에서 수치 실험을 통해 검증되었다.

ABSTRACT

The objective of this work is to propose a new algorithm to fit a sphere on a noisy 3D point cloud distributed around a complete or a truncated sphere. More precisely, we introduce a projected Robbins-Monro algorithm and its averaged version for estimating the center and the radius of the sphere. We give asymptotic results such as the almost sure convergence of these algorithms as well as the asymptotic normality of the averaged algorithm. Furthermore, some non-asymptotic results will be given, such as the rates of convergence in quadratic mean. Some numerical experiments show the efficiency of the proposed algorithm on simulated data for small to moderate sample sizes.

연구 동기 및 목표

• 노이즈가 있는 3D 점군이 완전하거나 조각내어진 구 표면 주위에 분포할 때 구를 피팅하는 문제에 대응하기 위해.
• 전체 구 표면에 대한 명시적 지식이 필요 없이 중심과 반경을 추정하는 재귀적 확률적 알고리즘을 개발하기 위해.
• 일반적인 조건 하에서 알고리즘의 평균화된 형태에 대해 거의 확실 수렴성과 점근 정규성을 확립하기 위해.
• 파rameter 추정기의 비점근 수렴 속도를 제곱평균에서 유도하기 위해.
• 소규모에서 중간 규모의 표본 크기에서 시뮬레이션된 데이터에서 알고리즘의 성능을 검증하기 위해.

제안 방법

• 알고리즘은 매개변수 공간에 투영되는 갱신을 통해 안정성을 확보하는 투영된 Robbins-Monro 확률적 근사 방법에 기반한다.
• 예상 제곱편차의 노름에서 반경으로부터의 편차를 최소화하는 데서 유도된 은밀한 방정식을 사용한다: $ G(\theta) = \frac{1}{2}\mathbb{E}[(\|X - \mu\| - r)^2] $.
• 수렴을 보장하기 위해 데이터 기반의 재귀적 단계 크기를 포함하는 갱신 규칙을 사용하며, 매개변수 추정의 타당성을 유지하기 위해 투영을 적용한다.
• 수렴 성질을 향상시키고 점근 정규성을 가능하게 하기 위해 알고리즘의 평균화된 형태를 도입한다.
• 점군을 $ X = \mu + r W U_\Omega $로 모델링하여 조각내어진 데이터를 처리한다. 여기서 $ U_\Omega $ 는 단위 구의 부분집합 $ \Omega $ 에서 균일 분포를 갖는다.
• 오차 항의 수렴 성질을 유도하기 위해 마틴게일 차분 수열과 조건부 기대값 기법을 사용한다.

실험 결과

연구 질문

• RQ1 조각내어진 것과 노이즈가 있는 3D 점군이 존재할 때 재귀적 확률적 알고리즘이 거의 확실 수렴성을 달성할 수 있는가?
• RQ2 투영된 Robbins-Monro 알고리즘의 평균화된 형태가 추정된 매개변수에 대해 점근 정규성을 달성하는가?
• RQ3 알고리즘의 비점근 수렴 속도는 제곱평균에서 어떻게 되는가?
• RQ4 실제로 소규모에서 중간 규모의 표본 크기에서 현실적인 노이즈와 조각내어짐이 존재할 경우 알고리즘의 성능은 어떠한가?
• RQ5 반경 변동 $ W $ 의 분포에 대해 일반적인 가정 하에서 이론적으로 알고리즘을 정당화할 수 있는가?

주요 결과

• 약한 정규성 조건 하에서 투영된 Robbins-Monro 알고리즘이 진짜 매개변수 $ \mu $ 와 $ r $ 에 거의 확실하게 수렴한다.
• 평균화된 알고리즘은 점근 정규성을 달성하며, $ \sqrt{n}(\overline{\theta}_n - \theta) \xrightarrow{\mathcal{L}} \mathcal{N}(0, \Gamma_\theta^{-1} \Sigma \Gamma_\theta^{-1}) $ 를 만족한다. 여기서 $ \Sigma $ 는 점근 공분산 행렬이다.
• 비점근 수렴 속도가 제곱평균에서 확립되었으며, $ \mathbb{E}[\|\widehat{\theta}_n - \theta\|^2] = O(n^{-\alpha}) $ 를 만족한다. 여기서 $ \alpha > 0 $ 이며, 단계 크기 스케줄에 따라 달라진다.
• 확률적 근사에서의 오차 항은 $ \frac{1}{\sqrt{n}} \sum_{k=1}^n \epsilon_{k+1} \xrightarrow{\mathbb{P}} 0 $ 를 만족함을 보여주며, 이는 알고리즘의 안정성을 뒷받침한다.
• 알고리즘은 제한된 표본 크기와 조각내어짐이 존재하는 시뮬레이션된 데이터에서 강력한 경험적 성능을 보였다.
• 이론적 프레임워크는 일반적인 반경 분포 $ W $ 로 확장되며, $ W $ 에 대한 모멘트 및 적분 가능성 조건 하에서 수렴이 보장된다.