[論文レビュー] A Dual Certificates Analysis of Compressive Off-the-Grid Recovery.

Clarice Poon, Nicolas Keriven+1 more|arXiv (Cornell University)|Feb 23, 2018

Sparse and Compressive Sensing Techniques参考文献 48被引用数 6

ひとこと要約

本稿は、無限次元Lasso問題における圧縮オフ・グリッド復元のためのデュアル証明解析を提示し、スパース測度のロバストな復元に、スパース性に比例する（対数要因を除いて）ランダム化スケッチの数が十分であることを示している。最小ノルムデュアル証明とゴルフィング・スケーム技術を用いて、正確なサポート安定性およびアトムの近似局在化を確立している。

ABSTRACT

Many problems in machine learning and imaging can be framed as an infinite dimensional Lasso problem to estimate a sparse measure. This includes for instance regression using a continuously parameterized dictionary, mixture model estimation and super-resolution of images. To make the problem tractable, one typically sketches the observations (often called compressive-sensing in imaging) using randomized projections. In this work, we provide a comprehensive treatment of the recovery performances of this class of approaches, proving that (up to log factors) a number of sketches proportional to the sparsity is enough to identify the sought after measure with robustness to noise. We prove both exact support stability (the number of recovered atoms matches that of the measure of interest) and approximate stability (localization of the atoms) by extending two classical proof techniques (minimal norm dual certificate and golfing scheme certificate).

研究の動機と目的

• 無限次元Lasso問題における圧縮オフ・グリッド手法の復元性能を分析すること。
• ランダム化スケッチからスパース測度がロバストに復元可能となる条件を確立すること。
• ノイズが存在する状況下でも、正確なサポート安定性およびアトムの近似局在化を証明すること。
• 古典的手法である最小ノルムデュアル証明とゴルフィング・スケームを、オフ・グリッド復元に統合的かつ拡張的に適用すること。

提案手法

• 本稿は、真の測度のサポートの正確な復元を証明するために、最小ノルムデュアル証明技術を採用している。
• ノイズの影響に対するスケッチングプロセスのロバスト性を確立するために、ゴルフィング・スケーム証明法を適用している。
• 連続的辞書パラメータ化を考慮し、スーパーキャラクタリゼーションやミックスチャーモデル推定などの問題をモデル化している。
• 安定な復元に必要なスケッチ数の条件を導出し、その数がスパース性に比例し、対数要因を除いてそのスケーリングが成立することを示している。
• 解が連続的パラメータ空間上のスパース測度である無限次元Lasso問題に、このフレームワークを適用している。
• 連続的設定における特定の双対性条件を満たすデュアル証明の構築により、理論的保証を導出している。

実験結果

リサーチクエスチョン

• RQ1 オフ・グリッド圧縮センシングにおいて、スパース測度を安定して復元するために必要な最小のランダム化スケッチ数は何か？
• RQ2 ノイズのある観測下でも、オフ・グリッド復元において正確なサポート安定性を保証できるか？
• RQ3 復元されたアトムの局在化誤差は、ノイズとスケッチ数にどのように依存するか？
• RQ4 古典的手法であるデュアル証明技術が、無限次元的・オフ・グリッド問題にどの程度拡張可能か？
• RQ5 ゴルフィング・スケームは、連続的パラメータ空間においてロバスト性の保証を提供するために適応可能か？

主な発見

• スパース測度のスパース性に比例する（対数要因を除いて）スケッチ数があれば、ロバストな復元が可能である。
• 正確なサポート安定性が達成されており、復元されたアトムの数が真の測度のものと一致している。
• ノイズ下でもアトムの近似局在化が保証されており、復元誤差が有界である。
• 最小ノルムデュアル証明法は、オフ・グリッド設定において正確な復元を証明するのに効果的に機能している。
• ゴルフィング・スケームはノイズに対するロバスト性を提供し、観測が汚染されていても安定した復元を保証している。
• 理論的保証は、スーパーキャラクタリゼーションやミックスチャーモデル推定を含む広範な問題クラスに対して成立する。