[論文レビュー] Gelfand numbers related to structured sparsity and Besov space embeddings with small mixed smoothness

Sjoerd Dirksen, Tino Ullrich|arXiv (Cornell University)|Feb 22, 2017

Mathematical Approximation and Integration参考文献 50被引用数 4

ひとこと要約

本稿は、混合ノルム $\beta$-系列空間埋込み $\ell_p^b(\ell_q^d) \to \ell_2^{bd}$ のGelfand数の鋭い漸近的評価を確立し、特に $p \leq 1$ または $q \leq 1$ の場合に、圧縮センシングにおける構造的スパarsityモデルと関連付ける。ブロックスパース（$\ell_1^b(\ell_2^d)\to\ell_2^{bd}$）およびレベルスパース（$\ell_2^b(\ell_1^d)\to\ell_2^{bd}$）回復のための一致する上界と下界を導出し、それらを応用して小混合正則性領域におけるBesov空間埋込みの新しい両側漸近的評価を得る。その結果、漸近的挙動が単変数ケースとほとんど同じであり、$\log\log$ 要因の差異が最大で生じることを示す。

ABSTRACT

We consider the problem of determining the asymptotic order of the Gelfand numbers of mixed-(quasi-)norm embeddings $\ell^b_p(\ell^d_q) \hookrightarrow \ell^b_r(\ell^d_u)$ given that $p \leq r$ and $q \leq u$, with emphasis on cases with $p\leq 1$ and/or $q\leq 1$. These cases turn out to be related to structured sparsity. We obtain sharp bounds in a number of interesting parameter constellations. Our new matching bounds for the Gelfand numbers of the embeddings of $\ell_1^b(\ell_2^d)$ and $\ell_2^b(\ell_1^d)$ into $\ell_2^b(\ell_2^d)$ imply optimality assertions for the recovery of block-sparse and sparse-in-levels vectors, respectively. In addition, we apply the sharp estimates for $\ell^b_p(\ell^d_q)$-spaces to obtain new two-sided estimates for the Gelfand numbers of multivariate Besov space embeddings in regimes of small mixed smoothness. It turns out that in some particular cases these estimates show the same asymptotic behaviour as in the univariate situation. In the remaining cases they differ at most by a $\log\log$ factor from the univariate bound.

研究の動機と目的

• 混合ノルム系列空間 $\ell_p^b(\ell_q^d) \to \ell_r^b(\ell_u^d)$ の埋込みにおけるGelfand数の漸近的順序を特定すること。ただし $p \leq r$, $q \leq u$ であり、特に $p \leq 1$ または $q \leq 1$ の場合を対象とする。
• ブロックスパース（$\ell_1^b(\ell_2^d)\to\ell_2^{bd}$）およびスパースインレベル（$\ell_2^b(\ell_1^d)\to\ell_2^{bd}$）回復に関連するGelfand数の鋭い評価を確立し、それらを最適回復と結びつけること。
• これらの推定を応用して、小混合正則性領域における多次元Besov空間埋込みのGelfand数に対する新しい両側漸近的評価を導出すること。
• これらのGelfand数の漸近的挙動が単変数ケースとどの程度一致するかを比較し、正確に一致する場合と、最大 $\log\log$ 要因の差異がある場合を特定すること。

提案手法

• 非凸単位球（$p \leq 1$ または $q \leq 1$ に起因）を伴う関数解析および擬Banach空間理論の技法を用いて、Gelfand数の鋭い上界と下界を導出する。
• Gelfand数と最小最悪ケース回復誤差の双対性を応用し、結果を圧縮センシングおよび信号回復に結びつける。
• ウェーブレット特徴付けを用いて、Besov空間埋込みの問題を有限次元の混合ノルム $\ell_p^b(\ell_q^d)$-空間埋込みに還元する。
• 標準的埋込みおよび補間技法を用いて、混合ノルム空間を古典的 $\ell_p$-空間と関連づけつつ、対数因子を丁寧に追跡する。
• Gelfand数と最小回復誤差の等価性を用いて、構造的スパarsityモデルにおける最適性に関する主張を導出する。
• 一部の状況で $\log\log m$ 要因が果たす重要な役割を特定し、精密な混合ノルム推定によるその低減可能性について議論する。

実験結果

リサーチクエスチョン

• RQ1 構造的スパarsity領域において、$p \leq 1$ または $q \leq 1$ の場合に、$\ell_p^b(\ell_q^d) \to \ell_2^{bd}$ 埋込みのGelfand数の漸近的順序は何か？
• RQ2 $\ell_1^b(\ell_2^d) \to \ell_2^{bd}$ および $\ell_2^b(\ell_1^d) \to \ell_2^{bd}$ のGelfand数は、ブロックスパースおよびスパースインレベル信号の最適回復とどのように関連するか？
• RQ3 小混合正則性領域におけるBesov空間埋込みのGelfand数は、単変数ケースとどの程度一致するか。また、$\log\log$ 要因の差異が生じる場合はいつか？
• RQ4 漸近的評価における $\log\log m$ 要因は、混合ノルム推定の精密分析により除去可能か？
• RQ5 ブロックスパースとスパースインレベルモデルのGelfand数挙動における非対称性を決定づける内側および外側の $\ell_p$-ノルムの役割は何か？

主な発見

• 任意の $1 \leq m \leq bd$ および $0 < p \leq 1$ に対して、$c_m(\mathrm{id}:\ell_p^b(\ell_2^d) \to \ell_2^{bd}) \simeq_p \min\left\{1, \frac{\log(eb/m) + d}{m}\right\}^{1/p - 1/2}$ が成り立ち、ブロックサイズとスパarsityのトレードオフを示す。
• 任意の $1 \leq m \leq bd$ および $0 < q \leq 1$ に対して、$c_m(\mathrm{id}:\ell_2^b(\ell_q^d) \to \ell_2^{bd}) \simeq_q \min\left\{1, \frac{b\log(ebd/m)}{m}\right\}^{1/q - 1/2}$ が成り立ち、外側と内側のノルムの非対称的役割が顕著に現れる。
• 特別な場合 $p=1$ に対しては、$c_m(\mathrm{id}:\ell_1^b(\ell_2^d) \to \ell_2^{bd}) \simeq \min\left\{1, \frac{\log(eb/m) + d}{m}\right\}^{1/2}$ が成り立ち、ブロックスパース回復における最適性を示す。
• $q=1$ の場合、$c_m(\mathrm{id}:\ell_2^b(\ell_1^d) \to \ell_2^{bd}) \simeq \min\left\{1, \frac{b\log(ebd/m)}{m}\right\}^{1/2}$ が成り立ち、スパースインレベル回復における最適性を確立する。
• 小混合正則性領域におけるBesov空間埋込み $s_{p_0,q_0}^{r_0}b(\Omega) \to s_{p_1,q_1}^{r_1}b(\Omega)$ のGelfand数は、単変数ケースの挙動と一致するか、最大 $\log\log m$ 要因の差異を示す。
• 本稿では、$\log\log m$ 要因が標準的埋込み技法に起因する副産物である可能性を特定し、精密な混合ノルム推定によりその除去が可能である可能性を示唆しているが、これは未解決の問題のままである。