[論文レビュー] Uncertainty Principle and Sparse Reconstruction in Pairs of Orthonormal Rational Function Bases

Dan Xiong, Li Chai+1 more|arXiv (Cornell University)|Dec 8, 2017

Image and Signal Denoising Methods参考文献 37被引用数 4

ひとこと要約

本稿は、無限次元関数空間における正規直交有理関数基底の対についての不確定性原理を確立し、有理伝達関数のスパース表現の一意性を証明する。また、単位円上のランダム周波数ドメインサンプリングを用いる場合、測定数が相互コherーレンスとスパース制約から導かれる境界を超える限り、ℓ₁-最小化が高確率でスパース係数ベクトルを回復できることを示している。

ABSTRACT

Most rational systems can be described in terms of orthonormal basis functions. This paper considers the reconstruction of a sparse coefficient vector for a rational transfer function under a pair of orthonormal rational function bases and from a limited number of linear frequency-domain measurements. We prove the uncertainty principle concerning pairs of compressible representation of orthonormal rational functions in the infinite dimensional function space. The uniqueness of compressible representation using such pairs is provided as a direct consequence of uncertainty principle. The bound of the number of measurements which guarantees the replacement of 1_0 optimization searching for the unique sparse reconstruction by 1_1 optimization using random sampling on the unit circle with high probability is provided as well.

研究の動機と目的

• 無限次元空間において正規直交有理関数基底の対における可換表現の不確定性原理を確立すること。
• そのような基底対を用いて有理伝達関数を表すスパース係数ベクトルの一意性を証明すること。
• ℓ₁最適化による正確な回復を高確率で保証するための、ランダム周波数ドメイン測定の最小数の境界を導出すること。
• 有限次元の圧縮センシング理論を、正規直交有理関数基底に表現された有理系に拡張すること。

提案手法

• L²型関数空間における正規直交有理関数基底の不確定性原理を形式化し、有限次元の結果を無限次元に一般化する。
• スパース再構成のための一意性の境界を求めるために、相互コヒーレンス $ M = \sup_{i,j} |\langle \phi_i, \psi_j \rangle| $ を基底の非一様性の指標として用いる。
• 周波数ドメイン測定を単位円上のランダムサンプリングとしてモデル化し、ランダム行列の集中不等式を活用する。
• 尾部不等式（例：ホフディングの不等式）と行列の逸脱バウンドを用いて、再構成誤差の確率的境界を導出する。
• ℓ₁-最小化による双対証明枠組みを導入し、スパース解の一意性を証明する。
• 双対証明のノルムの上界を、補支援集合上で抑え込むための確率的補題の連鎖を用いることで、高確率での正確な回復を保証する。

実験結果

リサーチクエスチョン

• RQ1 正規直交有理関数基底で張られる無限次元関数空間において、有限次元のベクトルから不確定性原理を拡張できるか？
• RQ2 2つの正規直交有理関数基底を用いた場合、有理伝達関数のスパース表現が一意となる条件は何か？
• RQ3 ℓ₁-最適化によるスパース係数ベクトルの回復を高確率で達成するために必要なランダム周波数ドメイン測定の最小数は何か？
• RQ4 2つの正規直交有理関数基底間の相互コヒーレンスが、一意的回復のスパース閾値に与える影響は何か？
• RQ5 ランダムサンプリング下で、ℓ₁-最小化がスパース再構成においてℓ₀-最小化を信頼できるものに置き換えられるか？

主な発見

• 正規直交有理関数基底の対に対する不確定性原理により、非ゼロ信号が両方の基底で同時にスパースであることは不可能であり、境界 $\|\alpha\|_0 + \|\beta\|_0 \geq 1 + M^{-1}$ が成り立つ。ここで $M$ は基底要素間の最大相互相関である。
• 本稿では、測定数が $m \geq C \cdot \mu(\Phi,\Psi)^2 \cdot |T| \cdot \log(n_1 + n_2)$ を満たす場合、ℓ₁-最小化が高確率で一意なスパース解を回復することを証明している。ここで $\mu(\Phi,\Psi)$ は相互コヒーレンス、$|T|$ はスパースレベルである。
• 回復確率は $P(\text{sup}_{t \in T^c} |\pi(t)| \geq 1) \leq 2(n_1+n_2)e^{-1/(2\lambda^2)} + 3(n_1+n_2)e^{-\gamma a^2} + P(\|\cdot\| \leq (1/2 + \|F-I\|)m)$ で抑えられ、回復失敗率が指数関数的に減少することが示されている。
• 必要な測定境界は $\bar{\sigma}^2 = \max\{2m\mu_M^2, \sqrt{m}|T|\mu_M^3\}$ に依存し、失敗確率は $a \leq \min\{\sqrt{2m}/(\sqrt{|T|}\mu_M), (m/\mu_M^2)^{1/4}\}$ を満たすように $a$ を選ぶことで制御される。
• 解析により、スパースレベルが $1/M$ 未満であれば、ランダムサンプリング下でℓ₁-最適化がℓ₀-最適化に代わって有理系同定に信頼できるものであることが示された。
• 本研究の結果は、有限次元の圧縮センシング境界を無限次元の有理関数系に一般化し、限られた周波数データからのスパース有理系同定に対する理論的保証を提供している。