[논문 리뷰] Leveraging Diversity and Sparsity in Blind Deconvolution

Ali Ahmed, Laurent Demanet|arXiv (Cornell University)|2016. 10. 19.

Sparse and Compressive Sensing Techniques참고 문헌 26인용 수 7

한 줄 요약

이 논문은 원형 컨볼루션 $\bm{y}_n = \bm{w} * \bm{x}_n$ 로부터 희박한 인과 응답 $\bm{w}$ 와 다수의 입력 신호 $\bm{x}_n$ 를 동시에 복원하는 볼록 최적화 프레임워크를 제안한다. $\bm{w}$ 의 희박성과 $\bm{x}_n$ 의 $K$-차원 부분공간에서의 다양성을 활용하고 핵노름 최소화를 적용함으로써, $K + S\log^2 S \lesssim L / \log^4(LN)$ 이고 $N \gtrsim \log^2(LN)$ 라면 정확한 복원이 가능함을 보이며, 이는 $\bm{w}$ 에 대해 고정된 부분공간을 가정하지 않는 블라인드 컨볼루션에 대한 최초의 이론적 결과이다.

ABSTRACT

This paper considers recovering $L$-dimensional vectors $\boldsymbol{w}$, and $\boldsymbol{x}_1,\boldsymbol{x}_2, \ldots, \boldsymbol{x}_N$ from their circular convolutions $\boldsymbol{y}_n = \boldsymbol{w}*\boldsymbol{x}_n, \ n = 1,2,3, \ldots, N$. The vector $\boldsymbol{w}$ is assumed to be $S$-sparse in a known basis that is spread out in the Fourier domain, and each input $\boldsymbol{x}_n$ is a member of a known $K$-dimensional random subspace. We prove that whenever $K + S\log^2S \lesssim L /\log^4(LN)$, the problem can be solved effectively by using only the nuclear-norm minimization as the convex relaxation, as long as the inputs are sufficiently diverse and obey $N \gtrsim \log^2(LN)$. By "diverse inputs", we mean that the $\boldsymbol{x}_n$'s belong to different, generic subspaces. To our knowledge, this is the first theoretical result on blind deconvolution where the subspace to which $\boldsymbol{w}$ belongs is not fixed, but needs to be determined. We discuss the result in the context of multipath channel estimation in wireless communications. Both the fading coefficients, and the delays in the channel impulse response $\boldsymbol{w}$ are unknown. The encoder codes the $K$-dimensional message vectors randomly and then transmits coded messages $\boldsymbol{x}_n$'s over a fixed channel one after the other. The decoder then discovers all of the messages and the channel response when the number of samples taken for each received message are roughly greater than $(K+S\log^2S)\log^4(LN)$, and the number of messages is roughly at least $\log^2(LN)$.

연구 동기 및 목표

• 입력 신호와 인과 응답이 모두 미지인 블라인드 시스템 식별 문제에 도전한다.
• 이전 방법들이 인과 응답 $\bm{w}$ 에 대해 알려진 부분공간을 필요로 하는 한계를 극복하기 위해, $\bm{w}$ 가 알려진 기저에서 희박하다는 조건만을 가정하고 고정된 부분공간 제약 없이 허용한다.
• 낮은 랭크와 동시 희박성의 제약을 볼록 리 릿지화한 핵노름 최소화를 통해, 미묘한 구조적 가정 하에 $\bm{w}$ 와 $\bm{x}_n$ 의 정확한 복원을 가능하게 한다.
• 이론적으로 $\bm{w}$ 가 알려진 기저에서 $S$-희박하다는 가정 하에, 높은 확률로 복원이 가능한 조건을 설정한다.
• 무선 통신 분야의 실세계 문제인 다중 경로 채널 추정에 적용 가능한 실용적 프레임워크를 제공한다.

제안 방법

• 문제는 볼록 리 릿지화된 핵노름 최소화를 통해 동시에 희박하고 랭크 1 인 행렬을 복원하는 것으로 공식화되며, 공동 희박성과 낮은 랭크 제약을 완화한다.
• 각 입력 $\bm{x}_n$ 은 알려진 $K$-차원 랜덤 부분공간에 존재한다고 가정하며, 기저 행렬 $\bm{C}_n$ 으로 매개변수화되어 구조적 복원을 가능하게 한다.
• $\bm{w}$ 의 희박성은 알려진 기저 $\bm{B}$ 에서 강제되며, $\bm{w} = \bm{B}\bm{h}$ 이고 $\|\bm{h}\|_0 \leq S$ 이다. 이 기저는 푸리에 도메인에서 비일관성을 가진다고 가정한다.
• $\bm{w}$ 와 $\bm{x}_n$ 으로 구성된 레이저드 행렬에 핵노름 최소화를 적용하여, 레이저드 공간 내의 낮은 랭크 구조를 활용한다.
• 랜덤 입력 다양성은 $\bm{x}_n$ 이 서로 다른 일반적인 부분공간을 차지한다고 가정함으로써 모델링되며, 이는 시스템 식별을 위한 충분한 자극을 보장한다.
• 랜덤 행렬 이론과 낮은 랭크 행렬 복원 기법을 활용하여 높은 확률로 복원 가능성을 확립하며, 측정 수 $N$ 과 부분공간 차원 $K$ 에 대한 경계를 제공한다.

실험 결과

연구 질문

• RQ1 블라인드 컨볼루션에서 $\bm{w}$ 와 $\bm{x}_n$ 의 정확한 복원을 보장하기 위해 측정 수 $N$, 입력 부분공간 차원 $K$, 희박성 $S$ 에 대한 조건은 무엇인가?
• RQ2 고정된 부분공간을 가정하지 않으면서도, 희박성을 활용하여 정확한 복원을 달성할 수 있는가?
• RQ3 입력 다양성 — 즉, 입력 신호가 서로 다른 일반적인 부분공간에 속한다는 조건 — 이 $\bm{w}$ 와 $\bm{x}_n$ 의 식별 가능성에 어떤 영향을 미치는가?
• RQ4 입력 신호가 $K$-차원 부분공간에 있고 $\bm{w}$ 가 $S$-희박하다면, 성공적인 복원을 위해 필요한 최소 측정 수 $N$ 는 얼마인가?
• RQ5 추가 정규화나 제약 조건 없이도, 핵노름 최소화만으로도 이러한 구조적 가정 하에 정확한 복원을 보장할 수 있는가?

주요 결과

• 입력이 다양하다는 가정 하에, $K + S\log^2 S \lesssim L / \log^4(LN)$ 라면 $\bm{w}$ 와 $\bm{x}_n$ 의 정확한 복원이 높은 확률로 가능하다.
• 충분한 다양성과 시스템의 식별 가능성을 확보하기 위해 측정 수 $N$ 은 $N \gtrsim \log^2(LN)$ 를 만족해야 한다.
• 이전 연구와 달리, 이 방법은 $\bm{w}$ 가 알려진 부분공간에 존재해야 한다는 조건이 필요 없어, 인과 응답이 기저에서 희박하다는 것만 안다면 다양한 상황에 적용 가능하다.
• 추가적인 희박성 유도 제약 조건 없이도, 핵노름 최소화만으로도 복원이 보장된다. $\bm{w}$ 의 희박성은 이미 알려진 조건이다.
• 이론적 프레임워크는 다중 경로 채널 추정에 직접 적용 가능하며, 이 경우 $\bm{w}$ 는 채널 인과 응답( fading 계수와 지연)을 나타내고 $\bm{x}_n$ 은 코딩된 메시지를 의미한다.
• 수치적 결과와 이론적 분석은 이 방법이 정보 이론적 한계에 근접한 샘플 복잡도로 복원을 달성함을 확인하며, 로그 인자 수준 이내이다.