[論文レビュー] Empirical Chaos Processes and Blind Deconvolution

Ali Ahmed, Felix Krahmer+1 more|arXiv (Cornell University)|Aug 30, 2016

Sparse and Compressive Sensing Techniques参考文献 43被引用数 4

ひとこと要約

本稿では、複素数空間 ℂᴹ¹ および ℂᴹ² に属するスパースなベクトル 𝐰 と 𝐪 が、二重線形測定値 𝑦ₗ = 𝐛ₗ*𝕏𝐜ₗ（ここで 𝕏 = 𝐰𝐪*）から一意に回復可能となる条件を確立する。測定値 𝑦ₗ を用いて定義される経験的カオス過程 𝑍(𝕏) = ∑ₗ |𝐛ₗ*𝕏𝐜ₗ|² を用いて、一般のガウス分布に従う 𝐛ₗ および 𝐜ₗ に対して、スパース制約のもとで 𝐰 と 𝐪 が高確率で一意に回復可能であることを証明する。その条件として、𝐿 ≥ Const·(𝐾+𝑁)log⁵(𝑀₁𝑀₂) が成立する必要がある。

ABSTRACT

This paper investigates conditions under which certain kinds of systems of bilinear equations have a unique structured solution. In particular, we look at when we can recover vectors $\boldsymbol{w},\boldsymbol{q}$ from observations of the form \[ y_{\ell} = , \quad \ell = 1,\ldots,L, \] where $\boldsymbol{b}_\ell,\boldsymbol{c}_\ell$ are known. We show that if $\boldsymbol{w}\in\mathbb{C}^{M_1}$ and $\boldsymbol{q}\in\mathbb{C}^{M_2}$ are sparse, with no more than $K$ and $N$ nonzero entries, respectively, and the $\boldsymbol{b}_\ell,\boldsymbol{c}_\ell$ are generic, selected as independent Gaussian random vectors, then $\boldsymbol{w},\boldsymbol{q}$ are uniquely determined from \[ L \geq \mathrm{Const}\cdot (K+N)\log^5(M_1M_2) \] such equations with high probability. The key ingredient in our analysis is a uniform probabilistic bound on how far a random process of the form \[Z(\boldsymbol{X}) = \sum_{\ell=1}^L|\boldsymbol{b}_\ell^*\boldsymbol{X}\boldsymbol{c}_\ell|^2 \] deviates from its mean over a set of structured matrices $\boldsymbol{X}\in\mathcal{X}$. As both $\boldsymbol{b}_\ell$ and $\boldsymbol{c}_\ell$ are random, this is a specialized type of $4$th order chaos; we refer to $Z(\boldsymbol{X})$ as an {\em empirical chaos process}. Bounding this process yields a set of general conditions for when the map $\boldsymbol{X} ightarrow \{\boldsymbol{b}_\ell^*\boldsymbol{X}\boldsymbol{c}_\ell\}_{\ell=1}^L$ is a restricted isometry over the set of matrices $\mathcal{X}$. The conditions are stated in terms of general geometric properties of the set $\mathcal{X}$, and are explicitly computed for the case where $\mathcal{X}$ is the set of matrices that are simultaneously sparse and low rank.

研究の動機と目的

• スパースなベクトル 𝐰 と 𝐪 が、𝕏 = 𝐰𝐪* を満たす二重線形測定値 𝑦ₗ = 𝐛ₗ*𝕏𝐜ₗ から一意に回復可能となる条件を同定すること。
• 構造的行列 𝕏 に対して、その平均からの乖離としての経験的カオス過程 𝑍(𝕏) = ∑ₗ |𝐛ₗ*𝕏𝐜ₗ|² の振る舞いを分析すること。
• スパースかつ低ランクの行列に対して、測定写像 𝕏 ↦ {𝐛ₗ*𝕏𝐜ₗ}ₗ=1ᴸ が制限等長性を満たす十分条件を確立すること。
• スパース性と環境次元の観点から、一意的回復に必要な測定数 𝐿 の明示的バウンドを導出すること。
• ランダムな測定を用いた安定的かつロバストな回復を保証する構造的行列集合の幾何的性質を特定すること。

提案手法

• 二重線形測定プロセスを、𝑏ₗ および 𝑐ₗ が独立な複素ガウスベクトルである経験的カオス過程 𝑍(𝕏) = ∑ₗ |𝐛ₗ*𝕏𝐜ₗ|² としてモデル化する。
• 特にスパースかつ低ランクであるような構造的行列集合 𝕏 ∈ 𝒳 に対して、𝑍(𝕏) の平均からの乖離に対する一様な確率的バウンドを導出する。
• このバウンドを用いて、測定写像が集合 𝒳 上で制限等長性を満たすことを確立し、安定な回復を保証する。
• 幾何学的および確率的道具を用いて、行列集合 𝒳 の複雑さと必要測定数 𝐿 の関係を関連付ける。
• 𝕏 がスパースかつ低ランクである場合の測定複雑度を明示的に計算し、(𝐾+𝑁)log⁵(𝑀₁𝑀₂) を含むバウンドを導出する。
• カオス過程の集中不等式を活用して、集合 𝒳 全体にわたる経験的プロセスの期待値からの乖離を一様に制御する。

実験結果

リサーチクエスチョン

• RQ1 スパースなベクトル 𝐰 と 𝐪 が、𝕏 = 𝐰𝐪* を満たす二重線形測定値 𝑦ₗ = 𝐛ₗ*𝕏𝐜ₗ から、どのような条件下で一意に回復可能か？
• RQ2 高確率でスパースな 𝐰 と 𝐪 を一意に回復可能とするために、何回の測定 𝐿 が必要か？
• RQ3 経験的カオス過程 𝑍(𝕏) = ∑ₗ |𝐛ₗ*𝕏𝐜ₗ|² は、回復写像の安定性をどのように特徴付けるか？
• RQ4 構造的行列集合 𝒳 の幾何的性質は、測定写像の制限等長性にどのように影響を与えるか？
• RQ5 𝕏 がスパースかつ低ランクである場合に、明示的な測定複雑度バウンドをどのように導出できるか？

主な発見

• 構造的行列集合において、経験的カオス過程 𝑍(𝕏) = ∑ₗ |𝐛ₗ*𝕏𝐜ₗ|² が平均のまわりにきわめて集中しており、測定の行動に対する一様な制御が可能であることが示された。
• 高確率で、二重線形測定写像はスパースかつ低ランクの行列の集合上で制限等長性を満たす。
• 測定数 𝐿 が 𝐿 ≥ Const·(𝐾+𝑁)log⁵(𝑀₁𝑀₂) を満たす場合、スパースなベクトル 𝐰 と 𝐪 の一意的回復が保証される。
• 必要な測定数は環境次元の積 𝑀₁𝑀₂ に対して対数的に増加し、構造的行列集合の複雑さを反映している。
• 本分析により、構造的行列集合の幾何的性質とランダム測定による二重線形回復の安定性を結びつける一般的な枠組みが提供された。
• 結果は非漸近的であり、一般のガウス分布に従う測定ベクトル 𝐛ₗ および 𝐜ₗ に対して成立し、通常のランダムサンプリングにおいてロバストであることが保証される。