[논문 리뷰] Alternating projections on non-tangential manifolds

Фредрик Андерссон, Marcus Carlsson|arXiv (Cornell University)|2011. 07. 08.

Advanced Numerical Analysis Techniques참고 문헌 15인용 수 5

한 줄 요약

이 논문은 힐버트 공간 내에서 두 개의 비접촉성 $ C^1_{\text{Lip}} $ 다양체 간의 교대 투영에 대한 수렴성과 근사 오차 한계를 확립하며, 한계 점이 초기 거리에 상대적으로 $ \|B_0 - B_{\text{opt}}\| $ 이내에 있음을 증명한다. 이는 이전 결과보다 크게 향상된 것으로, 비볼록성, 비선형성의 다양체에 적용 가능하며, 약한 기하 조건 하에서 정량적 오차 추정을 제공한다.

ABSTRACT

We consider sequences $(B_k)_{k=0}^\infty$ of points obtained by projecting back and forth between two manifolds $\M_1$ and $\M_2$, and give conditions guaranteeing that the sequence converge to a limit $B_\infty\in\M_1\cap\M_2$. Our motivation is the study of algorithms based on finding the limit of such sequences, which have proven useful in a number of areas. The intersection is typically a set with desirable properties, but for which there is no efficient method of finding the closest point $B_{opt}$ in $\M_1\cap\M_2$. We prove not only that the sequence of alternating projections converges, but that the limit point is fairly close to $B_{opt}$, in a manner relative to the distance $\|B_0-B_{opt}\|$, thereby significantly improving earlier results in the field. A concrete example with applications to frequency estimation of signals is also presented.

연구 동기 및 목표

• 두 비접촉성 다양체 간의 교대 투영이 그 교차점에 수렴할 조건을 확립하기.
• 교대 투영 수열의 한계가 진짜로 교차점 내 가장 가까운 점과 얼마나 가까운지, 초기 거리에 상대적으로 얼마나 가까운지를 정량화하기.
• 아핀 부분공간에 대한 폰 뉴만의 고전적 결과를 최소한의 매끄러움 조건 하에 비선형, 비볼록 다양체로 확장하기.
• 신호 처리, 행렬 완성, 저질서 근사에 사용되는 교대 투영 알고리즘의 이론적 기초를 제공하기.
• Zangwill의 정리에만 의존하는 기존 방법에서 수렴 속도 및 근사 품질 보장의 부족을 해결하기.

제안 방법

• 교대 투영을 $ B_{k+1} = \pi_1(B_k) $ (만약 $ k $ 가 짝수일 경우), $ \pi_2(B_k) $ (만약 $ k $ 가 홀수일 경우)로 정의하며, 여기서 $ \pi_j $ 는 다양체 $ \mathcal{M}_j $ 에 대한 정규 투영을 의미한다.
• 비접촉성 다양체 개념을 도입하며, 교차점에서의 교차성 조건을 요구한다: $ T_{\mathcal{M}_1}(A) + T_{\mathcal{M}_2}(A) = \mathcal{K} $, 모든 $ A \in \mathcal{M}_1 \cap \mathcal{M}_2 $ 에 대해.
• 각 교차점 $ A $ 주변의 국소적 이웃 구조를 사용하며, $ \mathcal{B}(A, s_A) $ 는 제6.1정리로부터 유도된 반경 $ s_A > 0 $ 내에서 수렴을 보장한다.
• 정량적 한계를 확립한다: $ \|B_\infty - \pi(B)\| \leq \epsilon \|B_0 - \pi(B)\| $, 여기서 $ \epsilon $ 은 다양체의 기하학적 및 매끄러움 특성에 따라 달라지는 값이다.
• 주어진 주파수 추정 문제에 이 토대를 적용하며, 가중치가 부여된 $ \ell^2 $-노름과 힐베르트-슈미트 투영을 사용한다.
• 백색 잡음과 지수합의 편향이 있는 경우에 이론적 한계를 시뮬레이션을 통해 실증적으로 검증하며, $ \varepsilon(g,n) = \|f_\infty - g\|_w / \|n\|_w $ 를 추정한다.

실험 결과

연구 질문

• RQ1 비선형 다양체 간의 교대 투영이 수렴하기 위한 기하학적 및 매끄러움 조건는 무엇인가?
• RQ2 교대 투영 수열의 한계 점이 교차점 내 진짜 가장 가까운 점과 초기 거리에 비해 얼마나 가까운가?
• RQ3 접촉성 조건이나 강한 볼록성 조건 없이도 비볼록, 비접촉성 다양체에 대해 수렴성 및 근사 오차 한계를 확립할 수 있는가?
• RQ4 이론적 한계에서 편향 크기 $ s $ 와 근사 오차 $ \epsilon $ 사이의 관계는 무엇인가?
• RQ5 접촉성 교차가 발생하더라도 대수적 다양체에 대해 교대 투영 방법이 수렴하는가?

주요 결과

• 비접촉성 조건과 $ C^1_{\text{Lip}} $ 매끄러움 조건 하에서, 교대 투영 수열은 $ B_\infty \in \mathcal{M}_1 \cap \mathcal{M}_2 $ 로 수렴한다.
• 한계 점은 $ \|B_\infty - \pi(B)\| \leq \epsilon \|B_0 - \pi(B)\| $ 를 만족하며, 여기서 $ \epsilon $ 은 다양체 기하학적 특성에 따라 결정되는 작은 상수로, 이는 이전 결과보다 크게 향상된 것이다.
• 수렴은 강건하다: 시작점이 교차점의 이웃에 있지 않더라도, 다양체가 비접촉성이고 충분히 매끄럽다면 수렴한다.
• 실증 결과에 따르면 $ \epsilon \approx \sigma $ 로 나타나며, 여기서 $ \sigma $ 는 잡음 수준이다. 이는 실용적 상황에서 $ \epsilon $ 이 편향 크기와 선형적으로 비례함을 시사한다.
• 이 틀은 $ \pi $ 는 계산이 곤란하지만 $ \pi_1, \pi_2 $ 는 계산 가능한 실세계 문제, 예를 들어 노이즈가 있는 지수합으로부터의 주파수 추정에 적용 가능하다.
• 저자들은 대수적 다양체의 경우 비접촉성 조건 없이도 수렴이 성립할 것이라 추측하고 있으나, 아직 증명되지 않은 상태이다.