[論文レビュー] Infinite-dimensional compressed sensing and function interpolation

Ben Adcock|arXiv (Cornell University)|Sep 20, 2015

Sparse and Compressive Sensing Techniques参考文献 41被引用数 4

ひとこと要約

本稿は、重み付き ℓ¹ 最小化を用いた無限次元の圧縮センシングフレームワークを提示し、展開尾の事前境界を必要とせずに、証明可能に補間的な近似を可能にする。係数に構造的スパarsity（下集合）を有する多次元多項式近似において、最適な測定回数を達成する鋭い回復保証を確立する。

ABSTRACT

We introduce and analyze a framework for function interpolation using compressed sensing. This framework - which is based on weighted $\ell^1$ minimization - does not require a priori bounds on the expansion tail in either its implementation or its theoretical guarantees, and in the absence of noise leads to genuinely interpolatory approximations. We also establish a new recovery guarantee for compressed sensing with weighted $\ell^1$ minimization based on this framework. This guarantee has several key benefits. First, unlike existing results, it is sharp (up to constants and log factors) for large classes of functions regardless of the choice of weights. Second, by examining the measurement condition in the recovery guarantee, we are able to suggest a good overall strategy for selecting the weights. In particular, when applied to the important case of multivariate approximation with orthogonal polynomials, this weighting strategy leads to provably optimal estimates on the number of measurements required, whenever the support set of the significant coefficients is a so-called lower set. Finally, this guarantee can also be used to theoretically confirm the benefits of alternative weighting strategies where the weights are chosen based on prior support information. This provides a theoretical basis for a number of recent numerical studies showing the effectiveness of such approaches.

研究の動機と目的

• 限られた点でのサンプルから高次元で滑らかな関数を近似する課題に、圧縮センシングを適用すること。
• 展開尾の事前境界を必要とする従来の圧縮センシング手法の限界を克服し、無限次元関数空間を適切に扱えるようにすること。
• 尾の切り詰めなしに真に補間的近似を可能にする理論的裏付けのあるフレームワークを構築すること。
• 多次元多項式近似における測定回数を最小化する最適な重み戦略を同定すること。
• 関数近似において経験的に成功を収めたサポートに依存する重み戦略に理論的根拠を与えること。

提案手法

• 離散化の前段階で、無限次元空間における重み付き ℓ¹ 最小化として関数近似問題を定式化する。
• 一般の重みを用いた無限次元設定に適応した、ゴルフィングスキームに基づく新しい回復保証を用いる。
• 回復保証が、多くの関数と重みのクラスに対して鋭い（定数および対数要因を除いて）条件を導出する。
• 特に係数のサポートが下集合を形成する場合に顕著に効果的である、測定回数を最小化する重み戦略を導入する。
• 抽象的な回復保証を応用し、サポートに依存する重み戦略の有効性を検証し、経験的観察に理論的裏付けを与える。
• 集中不等式および確率的議論を用いて、回復プロセスにおける失敗確率の上限を導出する。

実験結果

リサーチクエスチョン

• RQ1 展開尾の切り詰めなしに、圧縮センシングを無限次元関数空間へ効果的に拡張できるか？
• RQ2 多次元関数近似において、重み付き ℓ¹ 最小化のどの重み戦略が測定回数を最適化するか？
• RQ3 特に係数サポートが下集合を形成するという構造的スパarsityを、最適なサンプリング複雑度を達成するためにどのように活用できるか？
• RQ4 経験的に成功を収めたサポートに依存する重み戦略に対して、理論的保証を確立できるか？
• RQ5 提案されたフレームワークは、ノイズのない状況下でも真に補間的近似を達成するか？

主な発見

• 提案されたフレームワークはノイズのない状況下で補間的近似を達成し、切り詰めを要する手法に比べて顕著な利点を有する。
• 多くの関数と重みのクラスに対して、回復保証が鋭い（定数および対数要因を除いて）であり、従来の結果が特定の領域で非最適であったのとは対照的である。
• 直交多項式を用いた多次元近似において、係数サポートが下集合である場合、提案された重み戦略により、測定回数が理論的に最適化される。
• 本フレームワークは、サポートに依存する重み戦略に初めて理論的根拠を与える。
• 下集合仮定の下で、測定複雑度が次元の呪いを緩和することが示され、近似的に最適なサンプリングレートが達成される。
• 理論的解析により、下集合条件の下で、測定回数がスパarsityおよび次元数に最適にスケーリングすることが確認された。