[論文レビュー] Infinite-dimensional $\ell^1$ minimization and function approximation from pointwise data

Ben Adcock|arXiv (Cornell University)|Mar 9, 2015

Probabilistic and Robust Engineering Design参考文献 28被引用数 7

ひとこと要約

本稿は、平滑関数の点集合からの近似を目的とした無限次元の $ι^1$ 最小化枠組みを導入し、事前に断片誤差の境界を必要とせず、補間解を保証する。重み付き $ι^1$ 最小化とジャコビ多項式を用いることで、散ららばったデータからの滑らかで1次元の関数に対して最適な近似レートを達成することが証明されている。

ABSTRACT

We consider the problem of approximating a smooth function from finitely-many pointwise samples using $\ell^1$ minimization techniques. In the first part of this paper, we introduce an infinite-dimensional approach to this problem. Three advantages of this approach are as follows. First, it provides interpolatory approximations in the absence of noise. Second, it does not require extit{a priori} bounds on the expansion tail in order to be implemented. In particular, the truncation strategy we introduce as part of this framework is independent of the function being approximated, provided the function has sufficient regularity. Third, it allows one to explain the key role weights play in the minimization; namely, that of regularizing the problem and removing aliasing phenomena. In the second part of this paper we present a worst-case error analysis for this approach. We provide a general recipe for analyzing this technique for arbitrary deterministic sets of points. Finally, we use this tool to show that weighted $\ell^1$ minimization with Jacobi polynomials leads to an optimal method for approximating smooth, one-dimensional functions from scattered data.

研究の動機と目的

• 有限次元の $ι^1$ 最小化における限界、特に事前に断片誤差の推定に依存することや補間的でない解が得られることの問題を解決すること。
• 近似展開の尾部の知識が不要であるにもかかわらず補間的近似を保証する枠組みを構築すること。
• 重みが正則化およびエイリアシング抑制に果たす役割を明確にすること。
• 任意の決定的点集合に対して最悪ケース誤差解析を提供すること。
• 重み付き $ι^1$ 最小化とジャコビ多項式を用いることで、散ららばったデータからの滑らかで1次元の関数近似において最適な手法が得られることを示すこと。

提案手法

• ヒルベルト空間設定において、完全な係数ベクトルを直接近似する無限次元の $ι^1$ 最小化問題を導入する。
• ユーザーが定義するパラメータ $K$ に基づく切断戦略を提案し、無限次元問題を有限次元問題に変換する。
• 問題の正則化およびエイリアシングの抑制を目的に、重みを適切に選択した重み付き $ι^1$ 最小化を用いる。
• 任意の決定的点集合に対して有効な最悪ケース誤差解析フレームワークを適用し、理論的誤差境界を導出可能にする。
• ジャコビ多項式の漸近的性質および直交性の利点を活かし、基底関数としてジャコビ多項式を採用する。
• 微分方程式およびジャコビ多項式の漸近的推定を用いて、導関数および係数の $L^∞$ ノルムの境界を導出する。

実験結果

リサーチクエスチョン

• RQ1 近似展開の尾部に関する事前知識が不要な無限次元 $ι^1$ 最小化枠組みを構築できるか？
• RQ2 ノイズのない状況下で、この枠組みは補間的近似をもたらすか？
• RQ3 最小化問題における重みが正則化およびエイリアシング抑制にどのように影響するか？
• RQ4 任意の決定的点集合に対して、重み付き $ι^1$ 最小化の最悪ケース誤差境界を導出できるか？
• RQ5 ジャコビ多項式を用いた重み付き $ι^1$ 最小化は、散ららばったデータからの滑らかで1次元の関数近似において最適か？

主な発見

• ノイズのないデータの場合、無限次元 $ι^1$ 最小化枠組みは、有限次元の類似手法とは異なり補間的近似を生成する。
• 提案された切断戦略は、近似対象の関数に依存せず、正則性とユーザーが定義する $K$ のみに依存する。
• 最小化における重みは、特に非一様なサンプリング状況下で、正則化およびエイリアシングの除去にきわめて重要な役割を果たす。
• 最悪ケース誤差解析フレームワークは、任意の決定的点集合に適用可能であり、確率的サンプリングを超えた理論的保証を可能にする。
• ジャコビ多項式を用いた重み付き $ι^1$ 最小化は、散ららばったデータからの滑らかで1次元の関数近似において最適な収束レートを達成する。
• ジャコビ多項式およびその導関数の $L^∞$ ノルムに関する漸近的境界が導出され、理論的解析を支援する。