[論文レビュー] Stable recovery of low-dimensional cones in Hilbert spaces: One RIP to rule them all

Yann Traonmilin, Rémi Gribonval|arXiv (Cornell University)|Oct 2, 2015

Sparse and Compressive Sensing Techniques参考文献 44被引用数 81

ひとこと要約

本稿は、任意の正則化子を用いたヒルベルト空間内での低次元コーンに対する一般化された制限等長性性質（RIP）に基づく回復保証を確立し、スパースおよび低ランク回復の先行結果を統一・拡張する。主な貢献は、多様なモデル集合において安定的かつロバストな回復を保証する、鋭い統一的RIP条件の確立であり、無限次元設定におけるブロック構造スパース性に対する改善された保証を提供する。

ABSTRACT

Many inverse problems in signal processing deal with the robust estimation of unknown data from underdetermined linear observations. Low dimensional models, when combined with appropriate regularizers, have been shown to be efficient at performing this task. Sparse models with the 1-norm or low rank models with the nuclear norm are examples of such successful combinations. Stable recovery guarantees in these settings have been established using a common tool adapted to each case: the notion of restricted isometry property (RIP). In this paper, we establish generic RIP-based guarantees for the stable recovery of cones (positively homogeneous model sets) with arbitrary regularizers. These guarantees are illustrated on selected examples. For block structured sparsity in the infinite dimensional setting, we use the guarantees for a family of regularizers which efficiency in terms of RIP constant can be controlled, leading to stronger and sharper guarantees than the state of the art.

研究の動機と目的

• スパース性や低ランク構造を超えた、ヒルベルト空間内での低次元モデル集合の安定的回復保証を統一・一般化すること。
• 任意の正則化子および正homogeneousモデル集合（コーン）に適用可能な、一般化されたRIPベースのフレームワークを確立すること。
• ブロック構造スパース性の無限次元設定における回復保証を、適切に設計された正則化子によってRIP定数を制御することで向上させること。
• 回復のためのRIP条件の鋭さを特徴づけ、モデル族の文脈において弱い鋭さと強い鋭さを区別すること。
• 与えられたモデル集合に対して許容可能なRIP定数を最大にする最適な正則化子を特定することで、凸正則化子設計を支援すること。

提案手法

• ヒルベルト空間内でのモデル集合 Σ−Σ のセカント集合に対する一般化された制限等長性性質（RIP）の概念を導入する。
• 正則化子 f に対して、RIP定数 δΣ(f) を、M が定数 δ で Σ−Σ 上でRIPを満たす最小の δ として定義する。
• 制約付き最小化：||Mx − y|| ≤ ε におけるインスタンス最適回復にフレームワークを適用する。
• RIPが δ < δΣ(f) を満たす場合、任意の x ∈ Σ に対して安定的かつロバストな回復が保証される条件を導出する。
• RIP定数の弱い鋭さと強い鋭さを分析し、ℓ¹および核ノルム回復の文脈で δΣ(f) = 1/√2 が閾値であることを示す。
• 凸またはアトミック正則化子のクラス上で δΣ(f) を最大化することにより、正則化子設計の体系的アプローチを提案する。

実験結果

リサーチクエスチョン

• RQ1 任意の低次元コーンに対して、ヒルベルト空間内での安定的回復を保証する、一様なRIPベースのフレームワークを構築可能か？
• RQ2 与えられた正則化子 f およびモデル集合 Σ に対して、一様回復を保証する最適なRIP定数 δΣ(f) は何か？
• RQ3 特にブロック構造スパース性の設定において、正則化子を設計して許容可能なRIP定数 δΣ(f) を最大化するにはどうすればよいか？
• RQ4 古典的モデル族（K-スパースベクトル、低ランク行列）において、RIP閾値 δΣ(f) = 1/√2 は弱く鋭いか？
• RQ5 強い鋭さが成立するか、すなわちすべての正則化子およびモデル集合に対して δΣ(f) = δΣ^strong(f) が成り立つか？

主な発見

• 本稿は、任意の正homogeneousモデル集合（コーン）に対して、任意の正則化子を用いた場合にRIPが δ < δΣ(f) を満たすことで、安定的かつロバストな回復が保証されることを確立した。
• 無限次元設定におけるブロック構造スパース性では、正則化子の重みを調整することでRIP定数の許容範囲を向上させ、より緊密な回復保証が可能になる。
• ℓ¹最小化によるK-スパースベクトルおよび核ノルムによる低ランク行列の回復において、RIP閾値 δΣ(f) = 1/√2 は弱く鋭く、この値に限りなく近づくと回復が失敗することが示された。
• フレームワークにより、δΣ(f) の値に基づく正則化子の階層が明らかになった。δΣ(f) が大きいほど、より優れた回復性能を示す。
• 1-スパースベクトルの場合は、δΣ(f) ≥ 1/√2 を達成する正則化子は ℓ¹ノルムの定数倍に限られ、この設定では最適性が示された。
• 正則化子構造とRIP性能の関係を示す降下集合条件 TΣ(δ) = {z : δΣ(z) ≥ δ} を特徴づけることで、凸正則化子設計の基盤を提供した。