[논문 리뷰] On sparse interpolation and the design of deterministic interpolation points

Zhiqiang Xu, Tao Zhou|arXiv (Cornell University)|2013. 08. 28.

Sparse and Compressive Sensing Techniques참고 문헌 28인용 수 6

한 줄 요약

이 논문은 체비셰프 기저를 사용한 고차원 희박 보간에서 보간점의 결정론적 설계를 위한 방법을 제시하며, 랜덤 샘플링과 비교해 유사한 성능을 달성한다. 소수인 $M$일 때, 수론적 구성 방법을 통해 유일해결 가능(unisolvent)한 점 집합을 구성하고 상호 비일관성(mutual incoherence)을 분석함으로써, $m \gtrsim 9/2 \cdot 4^q d^2 s^2$ 개의 점을 사용해 $\beta_1$ 최소화를 통한 $s$-희박 함수의 정확한 복원이 가능하다.

ABSTRACT

In this paper, we build up a framework for sparse interpolation. We first investigate the theoretical limit of the number of unisolvent points for sparse interpolation under a general setting and try to answer some basic questions of this topic. We also explore the relation between classical interpolation and sparse interpolation. We second consider the design of the interpolation points for the $s$-sparse functions in high dimensional Chebyshev bases, for which the possible applications include uncertainty quantification, numerically solving stochastic or parametric PDEs and compressed sensing. Unlike the traditional random sampling method, we present in this paper a deterministic method to produce the interpolation points, and show its performance with $\ell_1$ minimization by analyzing the mutual incoherence of the interpolation matrix. Numerical experiments show that the deterministic points have a similar performance with that of the random points.

연구 동기 및 목표

• 일반적인 설정에서 $s$-희박 보간을 위한 최소한의 유일해결 가능한 점의 수에 대한 이론적 한계를 설정하는 것.
• 유일해결 조건을 분석하여 전통적 보간과 희박 보간 사이의 격차를 메우는 것.
• 고차원 체비셰프 기저에서 $s$-희박 함수의 안정적이고 정확한 복원을 보장하는 결정론적 보간점을 설계하는 것.
• 결정론적 점들이 희박 복원 과제에서 랜덤 샘플링과 유사한 성능을 달성할 수 있음을 보여주는 것.

제안 방법

• 소수와 모듈로 산술을 활용하여 구조화된 점 집합 $\Theta_M$를 생성하는 수론적 방법을 통해 보간점을 구성한다.
• 다변수 체비셰프 기저 함수 $\mathbf{\Phi}_{\mathbf{n}}$ 를 결정론적 점 $x_j \in \Theta_M$ 에서 평가하여 보간 행렬 $\mathbf{A}$ 를 정의하며, 단위 $\ell_2$ 노름을 가지도록 열을 표준화한다.
• 보간 행렬 $\mathbf{A}$ 의 상호 비일관성을 분석하여 $\ell_1$ 최소화를 통한 안정적 복원을 보장한다.
• 근사 이론과 압축 측정(compressed sensing)의 이론적 도구를 활용하여 유일해결성과 안정적 복원을 위한 점의 수에 대한 경계를 유도한다.
• 보간 행렬 $\mathbf{A}$ 의 열을 표준화하기 위해 대각 스케일링 행렬 $\mathbf{C}$ 를 사용하여 조건수와 비일관성 특성을 향상시킨다.
• MATLAB의 SPGL1 솔버를 사용하여 $\ell_1$ 최소화 문제를 수치적으로 해결하고 결정론적 점과 랜덤 샘플링 간의 성능을 비교한다.

실험 결과

연구 질문

• RQ1 일반적인 기저 설정에서 $s$-희박 보간을 위한 최소한의 유일해결 가능한 점의 수는 얼마인가?
• RQ2 결정론적 보간점은 $\ell_1$ 최소화를 통해 $s$-희박 함수의 안정적이고 정확한 복원을 보장할 수 있도록 구성될 수 있는가?
• RQ3 보간 행렬의 상호 비일관성이 결정론적 점과 랜덤 점 간의 복원 성능에 어떤 영향을 미치는가?
• RQ4 유일해결성과 점 집합 설계 측면에서 전통적 보간과 희박 보간 간의 관계는 어떠한가?
• RQ5 결정론적 점 집합은 고차원 불확실성 정량화 및 압축 측정에서 랜덤 샘플링과 유사한 성능을 달성할 수 있는가?

주요 결과

• 소수인 $M$일 때, 결정론적 점 집합 $\Theta_M$ 는 $m \geq \frac{9}{2} \cdot 4^q d^2 s^2 + 1$ 개의 점을 사용해 $\ell_1$ 최소화를 통한 $s$-희박 함수의 안정적 복원을 달성한다.
• 이론적 분석 결과 $\|\mathbf{c}^\# - \mathbf{c}\|_2 \lesssim \frac{\sigma_{s,1}(\mathbf{c})}{\sqrt{s}}$ 를 도출하여 일반적인 $s$-희박 함수에 대한 안정적 복원을 보여준다.
• 수치 실험 결과 결정론적 점들은 저차원 및 고차원 TP 및 TD 체비셰프 공간에서 랜덤 샘플링과 유사한 성능을 보였다.
• $d=2, q=9, m=49$ 이나 $d=3, q=6, m=69$ 일 때, 100회의 시험에서 결정론적 점의 성공률은 랜덤 점과 동일했다.
• $M \equiv 1 \pmod{4}$ 인 경우, 점 $\mathbf{p}_j$ 의 첫 번째 좌표는 체비셰프 노드에 해당하여 고전적 격자에 자연스러운 확장이 된다.
• 이 방법은 압축 측정 및 불확실성 정량화에서 랜덤 샘플링의 결정론적 대안을 제공하며, 증명 가능한 복원 보장을 제공한다.