[論文レビュー] Support Localization and the Fisher Metric for off-the-grid Sparse Regularization

Clarice Poon, Nicolas Keriven+1 more|arXiv (Cornell University)|Oct 8, 2018

Sparse and Compressive Sensing Techniques参考文献 44被引用数 6

ひとこと要約

本稿は、グリッド外スパース正則化におけるサポート局在の自然な幾何的枠組みとしてFisher-Rao距離を導入し、特にBLASSO（Beurling-Lasso）問題に適用する。弱い正則性および曲率条件のもとで、確率的サブサンプリング観測に対しても安定したサポート回復を証明し、ラプラス変換の逆問題のような翻訳変動型問題に対する幾何学的認識に基づく回復保証を初めて得る。

ABSTRACT

Sparse regularization is a central technique for both machine learning (to achieve supervised features selection or unsupervised mixture learning) and imaging sciences (to achieve super-resolution). Existing performance guaranties assume a separation of the spikes based on an ad-hoc (usually Euclidean) minimum distance condition, which ignores the geometry of the problem. In this article, we study the BLASSO (i.e. the off-the-grid version of $\ell^1$ LASSO regularization) and show that the Fisher-Rao distance is the natural way to ensure and quantify support recovery, since it preserves the invariance of the problem under reparameterization. We prove that under mild regularity and curvature conditions, stable support identification is achieved even in the presence of randomized sub-sampled observations (which is the case in compressed sensing or learning scenario). On deconvolution problems, which are translation invariant, this generalizes to the multi-dimensional setting existing results of the literature. For more complex translation-varying problems, such as Laplace transform inversion, this gives the first geometry-aware guarantees for sparse recovery.

研究の動機と目的

• 既存のスパース正則化の保証が、問題の幾何的構造を無視する恣意的なユークリッド距離条件に依存するという限界を解決する。
• グリッド外圧縮センシングおよび関連問題におけるサポート回復の幾何学的に不変な枠組みを提供する。
• 確率的サブサンプリング観測のもとでBLASSOの安定したサポート同定を確立し、翻訳変動型設定でも有効であることを示す。
• 既存のスーパーキャラクタリゼーション結果を多次元デコンボリューションに一般化し、ラプラス変換の逆問題のような新規問題へ拡張する。
• Fisher-Rao距離が再パrameterizationに対して不変性を保つことから、スパース測度回復の自然な測度であることを示す。

提案手法

• スパースRadon測度を確率的線形観測から推定する無限次元Lasso問題としてBLASSOを定式化する。
• パrameter空間の多様体上での内挿的リーマン計量としてFisher-Rao距離を用い、再パラメータリゼーションに対して不変性を保証する。
• 観測モデルにおける局所的安定性を保証するため、測定カーネルに弱い正則性および曲率条件を課す。
• 集中不等式およびランダム行列の道具（例：ラデマッハ・カオス）を用いて、観測モデルにおけるノイズおよびコherenceを評価する。
• ガウスおよびラデマッハ・カオスのためのブロック行列ノルムおよび尾部不等式を用いて、回復誤差の確率的境界を導出する。
• スパイク間のFisher-Rao距離が、ノイズおよび曲率に依存する閾値を上回る場合に、安定したサポート同定が達成されることを示す。

実験結果

リサーチクエスチョン

• RQ1 Fisher-Rao距離は、グリッド外スパース正則化におけるサポート局在の自然で不変な測度として機能できるか？
• RQ2 確率的サブサンプリング観測のもとで、BLASSOの安定したサポート回復が保証される幾何学的および統計的条件は何か？
• RQ3 スーパーキャラクタリゼーションおよびデコンボリューションにおいて、Fisher-Rao測度はユークリッド距離に基づく分離条件をどのように改善するか？
• RQ4 提案された枠組みは、ラプラス変換の逆問題のような翻訳変動型問題に対して、幾何学的認識に基づく回復保証を初めて提供できるか？
• RQ5 曲率は、ノイズが加わりサブサンプリングされた観測のもとで、スパース測度の安定回復を保証するために果たす役割は何か？

主な発見

• Fisher-Rao距離は、再パラメータリゼーションに対して不変性を保ち、問題の内在的幾何を捉えることから、サポート回復の自然な測度であることが示された。
• 弱い正則性および曲率条件のもとで、確率的サブサンプリング観測に対しても安定したサポート同定が達成され、これは圧縮センシングおよび学習のシナリオにおいて関連性がある。
• 翻訳不変型問題（例：デコンボリューション）では、本フレームワークにより既存の1次元スーパーキャラクタリゼーション結果が多次元設定へ一般化された。
• 本稿は、従来の手法が失敗するラプラス変換の逆問題のような翻訳変動型問題に対し、幾何学的認識に基づく回復保証を初めて提供した。
• ラデマッハ・カオスおよび行列集中の道具を用いて回復誤差の確率的境界を導出し、適切なノイズおよびサンプリング条件のもとで、高確率で回復が安定することを示した。
• スパイク間のFisher-Rao距離がノイズレベルおよび測定カーネルの曲率に比例する閾値を上回る場合、BLASSO解は真のスパース測度のサポートを効果的に局在化する。