[論文レビュー] Frames and numerical approximation

Ben Adcock, Daan Huybrechs|arXiv (Cornell University)|Dec 14, 2016

Mathematical Analysis and Transform Methods参考文献 66被引用数 7

ひとこと要約

本稿では、関数の高精度近似を数値的に計算するための正則化に基づくフレーム（正規直交基底の一般化である重複・過完全な系）を用いる枠組みを提案する。特徴的なのは、切断されたフレームのグラム行列が著しく悪条件であるにもかかわらず、誤差境界が $\sqrt{\epsilon}$（あるいは修正を加えると $\epsilon$）のオーダーであり、条件数が $1/\sqrt{\epsilon}$ で有界である点である。これはフレーム条件を活用することで、標準的な基底法が失敗する状況でも安定かつ高精度な近似を実現できることを示している。

ABSTRACT

Functions of one or more variables are usually approximated with a basis: a complete, linearly-independent system of functions that spans a suitable function space. The topic of this paper is the numerical approximation of functions using the more general notion of frames: that is, complete systems that are generally redundant but provide infinite representations with bounded coefficients. While frames are well-known in image and signal processing, coding theory and other areas of applied mathematics, their use in numerical analysis is far less widespread. Yet, as we show via a series of examples, frames are more flexible than bases, and can be constructed easily in a range of problems where finding orthonormal bases with desirable properties (rapid convergence, high resolution power, etc.) is difficult or impossible. A key concern when using frames is that computing a best approximation requires solving an ill-conditioned linear system. Nonetheless, we construct a frame approximation via regularization with bounded condition number (with respect to perturbations in the data), and which approximates any function up to an error of order $\sqrtε$, or even of order $ε$ with suitable modifications. Here $ε$ is a threshold value that can be chosen by the user. Crucially, rate of decay of the error down to this level is determined by the existence of approximate representations of $f$ in the frame possessing small-norm coefficients. We demonstrate the existence of such representations in all of our examples. Overall, our analysis suggests that frames are a natural generalization of bases in which to develop numerical approximation. In particular, even in the presence of severely ill-conditioned linear systems, the frame condition imposes sufficient mathematical structure in order to give rise to accurate, well-conditioned approximations.

研究の動機と目的

• 切断されたフレームに起因する著しく悪条件な線形系が生じる状況において、高精度な数値的近似を計算する課題に対処すること。
• 滑らかで多次元の関数を任意の幾何構造で高次の近似を構築する際、正規直交基底よりもフレームがより柔軟性を提供することを示すこと。
• 条件数が有界であり、$\mathcal{O}(\sqrt{\epsilon})$ の誤差にまで収束する正則化戦略を構築すること。これは、最良の近似が悪条件である場合でも有効である。
• フレーム内での小ノルム係数表現の存在が、達成可能な近似精度を決定することを確立し、理論的フレーム性質と数値的性能を結びつけること。
• オーバーサンプリングにより、条件数を $\mathcal{O}(1)$ に保ち、誤差を $\mathcal{O}(\epsilon)$ まで低下させられることを示し、数値解析における従来の基底の代替手段としてのフレームの有効性を示すこと。

提案手法

• 本手法は、切断されたフレームにおける悪条件な線形系を解くために、Tikhonov型正則化を用いて安定な近似を計算する。
• 誤差のしきい値を制御するパラメータ $\epsilon$ を導入し、正則化解の条件数が $1/\sqrt{\epsilon}$ 以下であることを保証する。
• 収束速度の根拠となるのは、フレーム条件によって保証される、小ノルム係数を持つ表現の存在である。
• 正規双対フレームを基準として用いるが、本手法は係数ノルムをより小さくするより良い近似を求める点でそれを改善する。
• オーバーサンプリングを用いて、$\mathcal{O}(1)$ の条件数と $\mathcal{O}(\epsilon)$ の誤差を持つ良好に条件付けられたシステムを構築し、数値的安定性を向上させる。
• 理論的分析により、近似誤差の減衰が、$\ell^2$-ノルムが小さい係数を持つ有限の展開が存在することと関連していることが示された。

実験結果

リサーチクエスチョン

• RQ1 グラム行列が著しく悪条件である場合でも、フレームを用いて高精度かつ良好に条件付けられた数値的近似を計算できるか？
• RQ2 有限次元の切断フレームにおいて、フレーム条件と数値的近似の安定性・精度の関係は何か？
• RQ3 標準的な直交射影法と比較して、正則化はフレームに基づく近似の条件数と収束速度にどのように影響するか？
• RQ4 オーバーサンプリングは、フレーム近似の条件数をどれほど改善し、誤差を低減できるか？
• RQ5 フレーム内に小ノルム係数表現が存在する場合、どのような条件下で高精度な数値的近似が達成可能になるか？

主な発見

• 正則化フレーム近似は、誤差境界が $\mathcal{O}(\sqrt{\epsilon})$ で、条件数が $1/\sqrt{\epsilon}$ で有界であるため、悪条件性に対しても数値的安定性を保証する。
• 近似の収束速度は、関数の有限フレーム展開が小ノルム係数を持つことにある。これはフレーム条件によって保証される。
• 最良の直交射影近似が悪条件で計算不能であっても、正則化手法は誤差を制御しつつ、数値的に安定な代替手段を提供する。
• オーバーサンプリングにより、$\mathcal{O}(1)$ の条件数と $\mathcal{O}(\epsilon)$ の誤差を持つフレーム近似が構築可能となり、著しく安定性が向上する。
• 特に高次元や不規則な幾何構造において、双対フレームによる収束が遅い場合に、本手法は正規双対フレーム展開を上回る性能を示す。
• 数値実験から、グラム行列の浮動小数点SVD計算が誤差にほとんど影響しないことが示唆されている。これは特徴値が「良い」グループと「悪い」グループに明確に分離しているためである。