[論文レビュー] The geometry of off-the-grid compressed sensing

Clarice Poon, Nicolas Keriven+1 more|arXiv (Cornell University)|Feb 23, 2018

Sparse and Compressive Sensing Techniques参考文献 45被引用数 5

ひとこと要約

本稿は、非整数グリッドにおける圧縮センシングのための幾何的枠組みを導入し、フィッシャー測地線距離をスーパーレゾリューション性能の標準的指標として用いる。これにより、非平行移動不変な測定作用素に対しても、BLASSOを用いたスパース測度の安定回復が可能になる。また、デルタスパイクがレイリー型の閾値より離れている場合に安定回復が達成可能であることが示され、サンプル複雑度はスパース数に比例し、対数的要因を除いて最適に近い。

ABSTRACT

This paper presents a sharp geometric analysis of the recovery performance of sparse regularization. More specifically, we analyze the BLASSO method which estimates a sparse measure (sum of Dirac masses) from randomized sub-sampled measurements. This is a "continuous", often called off-the-grid, extension of the compressed sensing problem, where the $\\ell^1$ norm is replaced by the total variation of measures. This extension is appealing from a numerical perspective because it avoids to discretize the the space by some grid. But more importantly, it makes explicit the geometry of the problem since the positions of the Diracs can now freely move over the parameter space. On a methodological level, our contribution is to propose the Fisher geodesic distance on this parameter space as the canonical metric to analyze super-resolution in a way which is invariant to reparameterization of this space. Switching to the Fisher metric allows us to take into account measurement operators which are not translation invariant, which is crucial for applications such as Laplace inversion in imaging, Gaussian mixtures estimation and training of multilayer perceptrons with one hidden layer. On a theoretical level, our main contribution shows that if the Fisher distance between spikes is larger than a Rayleigh separation constant, then the BLASSO recovers in a stable way a stream of Diracs, provided that the number of measurements is proportional (up to log factors) to the number of Diracs. We measure the stability using an optimal transport distance constructed on top of the Fisher geodesic distance. Our result is (up to log factor) sharp and does not require any randomness assumption on the amplitudes of the underlying measure. Our proof technique relies on an infinite-dimensional extension of the so-called "golfing scheme" which operates over the space of measures and is of general interest.

研究の動機と目的

• パラメータ空間の再パrameterizationに対して不変である、非整数グリッドにおけるスパース測度回復の分析のための幾何的枠組みを構築すること。
• スーパーレゾリューションにおけるユークリッド距離指標の限界を克服し、スパイク間の分離度を測る標準的指標としてフィッシャー測地線距離を導入すること。
• 一般の測定作用素（ラプラス逆問題やニューラルネットワーク学習における非平行移動不変作用素を含む）のもとで、BLASSO法の鋭い回復条件を確立すること。
• アーモニクスのランダムネスを仮定しない、フィッシャー測地線距離に基づく最適輸送距離を用いたスパース測度の安定回復の理論的保証を提供すること。
• 無限次元の測度空間へのギャンブルィングスキームの拡張を実現し、連続的圧縮センシングにおける回復解析のための新規な証明技法を提供すること。

提案手法

• スパース測度空間における標準的リーマン計量としてのフィッシャー測地線距離を提案し、デルタスパイク間の幾何的分離度を定義する。
• 連続的スパース回復のためのBLASSO定式化（データ適合性と測度のバリエーションの合計変動を組み合わせたTikhonov型汎関数の最小化）を用いる。
• 無限次元空間におけるギャンブルィングスキームの拡張を適用し、スパース測度の安定回復を証明する双対証明を構築する。
• フィッシャー測地線距離に基づく最適輸送距離を用いて回復の安定性を定量化し、パrameterizationに不変であることを保証する。
• 細かいグリッド上でベルンシュタイン不等式を用いて集中不等式を導出し、構築された証明関数のリプシッツ連続性を用いてそれをグローバルに拡張する。
• 双対証明の構築により回復を確立し、証明関数がスパイク位置からの遠方および近傍領域において点ごとの制約およびヘッセ行列制約を満たすことを示す。

実験結果

リサーチクエスチョン

• RQ1 幾何的かつパrameterization不変な指標は、非整数グリッドにおける圧縮センシングのスーパーレゾリューション解析を改善できるか？
• RQ2 BLASSOを用いたスパース測度の安定回復に必要なスパイク間最小分離距離は何か？ また、測定作用素にどのように依存するか？
• RQ3 ギャンブルィングスキームは無限次元の測度空間に拡張可能か？ これにより連続的圧縮センシングにおける回復保証を証明できるか？
• RQ4 非平行移動不変な測定カーネル下で、フィッシャー測地線距離はユークリッド距離に比べてスパイク分離の内在的幾何をどのようにより良く捉えられるか？
• RQ5 BLASSOを用いたs-スパース測度の安定回復に必要な最適なサンプル複雑度は何か？ また、アモニチュードのランダムネスに依存するか？

主な発見

• 任意の2つのスパイク位置間のフィッシャー測地線距離がレイリー型分離定数を超える場合、BLASSOによるs-スパース測度の安定回復が保証される。
• 必要な測定数はO(s log s)のオーダーで、対数的要因を除いてほぼ最適であり、アモニチュードのランダムネスに依存しない。
• フィッシャー測地線距離により、ラプラス逆問題やガウス・ミックスチャネル推定で生じる非平行移動不変な測定作用素に対しても回復解析が可能になる。
• 無限次元ギャンブルィングスキームを用いて構築された双対証明により、BLASSO解が最適輸送距離において有界誤差で真の測度を回復することが保証される。
• 本手法はパラメータ空間の再パラメータ化に対して不変であり、画像処理や機械学習の応用において頑健で幾何学的に整合性のあるものである。
• 理論的枠組みは複素数値測度にも適用可能であり、正規化カーネルを持つ一般の測定作用素を扱えるため、古典的圧縮センシングを超えた応用範囲を広げている。