[논문 리뷰] Exact solutions of infinite dimensional total-variation regularized problems

Axel Flinth, Pierre Weiss|arXiv (Cornell University)|2017. 08. 07.

Sparse and Compressive Sensing Techniques참고 문헌 37인용 수 28

한 줄 요약

이 논문은 무한차원 바나흐 공간에서의 총변동성 정규화 역문제가 항상 m-희소해를 갖는다는 것을 증명하며, 이는 측정 수 m에 해당하며, 이산화 없이 한 개 또는 두 개의 유한차원 볼록 프로그래밍을 통해 정확한 해를 계산할 수 있는 방법을 제공한다. 핵심 결과는 측정 연산자에 대한 온건한 가정 하에 해가 최대 m개의 점에서 지지되는 원자 측도임을 나타낸다.

ABSTRACT

We study the solutions of infinite dimensional linear inverse problems over Banach spaces. The regularizer is defined as the total variation of a linear mapping of the function to recover, while the data fitting term is a near arbitrary convex function. The first contribution is about the solu-tion's structure: we show that under suitable assumptions, there always exist an m-sparse solution, where m is the number of linear measurements of the signal. Our second contribution is about the computation of the solution. While most existing works first discretize the problem, we show that exacts solutions of the infinite dimensional problem can be obtained by solving two consecutive finite dimensional convex programs. These results extend recent advances in the understanding of total-variation reg-ularized problems.

연구 동기 및 목표

• 바나흐 공간에서의 무한차원 총변동성 정규화 역문제의 해 구조를 규명하기 위해.
• 기존의 이산화 기반 수치적 방법에 의존하지 않는 정확한 해 계산을 위한 수치적 방법을 개발하기 위해.
• 기존의 초해상도 및 일반화된 스퍼린의 결과를 더 넓은 선형 연산자 및 정의역의 범주로 확장하기 위해.
• 해가 m-희소해일 조건, 즉 최대 m개의 점에서 지지될 조건을 확립하기 위해.
• 이전의 제한적인 설정(예: R^d 상의 정적 연산자)을 초월하여 적용 가능한 구조적 증명 기법을 제공하기 위해.

제안 방법

• 바나흐 공간에서의 쌍대성과 연산자 이론을 이용한 해 구조 이론적 분석.
• 수반 측정 기능의 범위를 기반으로 하는 구조적 접근을 통한 m-희소해 존재성 증명.
• 무한차원 문제를 유한차원 볼록 프로그래밍으로 감소시키는 이중 문제 공식화 유도.
• 이산화 없이 정확한 해 복원이 가능한 측정 함수 조건(예: 삼각함수 다항식,(piecewise linear functions))의 규명.
• 해 공간과 그 지지의 특성화를 위해 무어-펜로즈 역행렬과 투영 연산자를 사용.
• 분석형 및 합성형 공식화에 이론을 적용하며, 합성형은 분석형 문제의 특수한 경우임을 고려.

실험 결과

연구 질문

• RQ1 무한차원 총변동성 정규화 역문제에 대해 m-희소해가 존재하는 조건은 무엇인가?
• RQ2 원래의 무한차원 문제를 이산화하지 않고 정확한 해를 계산할 수 있는가?
• RQ3 측정 기능의 구조(예: 삼각함수 다항식, 조각별 선형 함수)는 문제의 가역성에 어떻게 영향을 미치는가?
• RQ4 기존의 정적 연산자 또는 유계 정의역에 대한 결과를 초월하여 해 구조를 어느 정도 일반화할 수 있는가?
• RQ5 선형 연산자 L이 해의 희소성과 지지에 미치는 역할은 무엇인가?

주요 결과

• 선형 연산자 L과 데이터 피팅 항에 대한 온건한 가정 하에, 총변동성 정규화 역문제에 항상 m-희소해가 존재한다. 여기서 m은 측정 수이다.
• 해 구조는 Lû가 최대 m개의 점에서 지지되는 원자 측도임을 특징으로 한다.
• 측정 함수의 구조에 따라, 무한차원 문제의 정확한 해는 한 개 또는 두 개의 연속적인 유한차원 볼록 프로그래밍을 풀어 계산할 수 있다.
• 이 방법은 이산화를 피하므로 격자 기반 수렴 문제와 수치적 아티팩트를 피할 수 있다.
• 이 접근법은 미분 연산자, BV 공간 상의 일반적인 선형 사상 등 넓은 범위의 연산자 L에 적용 가능하다.
• 증명 기법은 구조적이며, 이전의 일반화된 스퍼린 및 초해상도 결과를 더 일반적인 정의역과 연산자로 확장한다.