[논문 리뷰] Gelfand numbers related to structured sparsity and Besov space embeddings with small mixed smoothness

Sjoerd Dirksen, Tino Ullrich|arXiv (Cornell University)|2017. 02. 22.

Mathematical Approximation and Integration참고 문헌 50인용 수 4

한 줄 요약

이 논문은 혼합-norm $\beta$-시퀀스 공간 포함 $\ell_p^b(\ell_q^d) \to \ell_2^{bd}$에 대한 Gelfand 수의 날카운 점근적 경계를 수립하며, 특히 $p \leq 1$ 또는 $q \leq 1$인 경우를 다루며, 압축 측정에서의 구조적 희소성 모델과 연관시킨다. 블록 희소성($\ell_1^b(\ell_2^d)\to\ell_2^{bd}$) 및 레벨 내 희소성($\ell_2^b(\ell_1^d)\to\ell_2^{bd}$) 복원에 대해 일치하는 상한과 하한을 도출하고, 이를 통해 소혼합 미분순도를 가진 다변수 Besov 공간 포함에 대한 새로운 이방향 점근적 추정치를 도출한다. 이는 단변수 경우와 거의 동일한 점근적 행동을 보이며, 최대 $\log\log$ 요인의 차이를 보인다.

ABSTRACT

We consider the problem of determining the asymptotic order of the Gelfand numbers of mixed-(quasi-)norm embeddings $\ell^b_p(\ell^d_q) \hookrightarrow \ell^b_r(\ell^d_u)$ given that $p \leq r$ and $q \leq u$, with emphasis on cases with $p\leq 1$ and/or $q\leq 1$. These cases turn out to be related to structured sparsity. We obtain sharp bounds in a number of interesting parameter constellations. Our new matching bounds for the Gelfand numbers of the embeddings of $\ell_1^b(\ell_2^d)$ and $\ell_2^b(\ell_1^d)$ into $\ell_2^b(\ell_2^d)$ imply optimality assertions for the recovery of block-sparse and sparse-in-levels vectors, respectively. In addition, we apply the sharp estimates for $\ell^b_p(\ell^d_q)$-spaces to obtain new two-sided estimates for the Gelfand numbers of multivariate Besov space embeddings in regimes of small mixed smoothness. It turns out that in some particular cases these estimates show the same asymptotic behaviour as in the univariate situation. In the remaining cases they differ at most by a $\log\log$ factor from the univariate bound.

연구 동기 및 목표

• 혼합-norm 시퀀스 공간 포함 $\ell_p^b(\ell_q^d) \to \ell_r^b(\ell_u^d)$에 대한 Gelfand 수의 점근적 순서를 결정하는 것. 여기서 $p \leq r$, $q \leq u$이며, 특히 $p \leq 1$ 또는 $q \leq 1$일 경우를 다룸.
• $\ell_1^b(\ell_2^d) \to \ell_2^{bd}$ 및 $\ell_2^b(\ell_1^d) \to \ell_2^{bd}$에 대한 Gelfand 수에 날카운 경계를 수립하고, 이를 블록 희소성 및 레벨 내 희소성 복원의 최적성과 연결하는 것.
• 이러한 추정치를 적용하여 소혼합 미분순도 영역에서의 다변수 Besov 공간 포함에 대한 새로운 이방향 점근적 경계를 도출하는 것.
• 이러한 Gelfand 수의 점근적 행동이 단변수 경우와 어떻게 비교되는지 밝혀내며, 정확히 일치하는 경우와 최대 $\log\log$ 요인의 차이가 나는 경우를 식별하는 것.

제안 방법

• 비볼록 단위구가 발생하는 $p \leq 1$ 또는 $q \leq 1$인 경우에 대해 기능해석학 및 준-바나흐 공간 이론 기법을 사용하여 Gelfand 수의 날카운 상한과 하한을 유도함.
• Gelfand 수와 최소 최악의 경우 복원 오차 사이의 이중성 원리를 적용하여 결과를 압축 측정 및 신호 복원과 연결함.
• 웨이블릿 특성화를 통해 다변수 Besov 공간 포함 문제를 유한차원 혼합-norm $\ell_p^b(\ell_q^d)$-공간 포함 문제로 환원함.
• 표준 포함관계와 보간 기법을 사용하여 혼합-norm 공간을 고전적 $\ell_p$-공간과 연결하면서도, 로그 인자들을 정확히 추적함.
• Gelfand 수와 최소 복원 오차 사이의 동치성을 활용하여, 구조적 희소성 모델에 대한 최적성 진술을 도출함.
• 일부 경우에서 $\log\log m$ 요인이 중요한 역할을 하며, 이를 정교한 혼합-norm 추정치를 통해 줄일 수 있을 가능성에 대해 논의함.

실험 결과

연구 질문

• RQ1 구조적 희소성 영역에서, $p \leq 1$ 또는 $q \leq 1$일 때 포함 $\ell_p^b(\ell_q^d) \to \ell_2^{bd}$에 대한 Gelfand 수의 점근적 순서는 무엇인가요?
• RQ2 $\ell_1^b(\ell_2^d) \to \ell_2^{bd}$ 및 $\ell_2^b(\ell_1^d) \to \ell_2^{bd}$에 대한 Gelfand 수는 어떻게 블록 희소성 및 레벨 내 희소성 신호의 최적 복원과 관련이 있나요?
• RQ3 소혼합 미분순도 영역에서의 Besov 공간 포함에 대한 Gelfand 수는 단변수 경우와 얼마나 유사하며, 언제 최대 $\log\log$ 요인의 차이가 나는가요?
• RQ4 점근적 경계에서의 $\log\log m$ 요인은 정교한 혼합-norm 추정치 분석을 통해 제거될 수 있을까요?
• RQ5 블록 희소성 대비 레벨 내 희소성 모델에서 Gelfand 수 행동의 비대칭성을 결정하는 내부 및 외부 $\ell_p$-노름의 역할은 무엇인가요?

주요 결과

• 모든 $1 \leq m \leq bd$ 및 $0 < p \leq 1$에 대해, Gelfand 수는 $c_m(\mathrm{id}:\ell_p^b(\ell_2^d) \to \ell_2^{bd}) \simeq_p \min\left\{1, \frac{\log(eb/m) + d}{m}\right\}^{1/p - 1/2}$를 만족하며, 이는 블록 크기와 희소성 사이의 상충관계를 보여준다.
• 모든 $1 \leq m \leq bd$ 및 $0 < q \leq 1$에 대해, $c_m(\mathrm{id}:\ell_2^b(\ell_q^d) \to \ell_2^{bd}) \simeq_q \min\left\{1, \frac{b\log(ebd/m)}{m}\right\}^{1/q - 1/2}$이며, 이는 외부 및 내부 노름의 비대칭적 역할을 강조한다.
• 특수 케이스 $p=1$는 $c_m(\mathrm{id}:\ell_1^b(\ell_2^d) \to \ell_2^{bd}) \simeq \min\left\{1, \frac{\log(eb/m) + d}{m}\right\}^{1/2}$를 유도하며, 이는 블록 희소성 복원의 최적성을 암시한다.
• $q=1$일 경우, $c_m(\mathrm{id}:\ell_2^b(\ell_1^d) \to \ell_2^{bd}) \simeq \min\left\{1, \frac{b\log(ebd/m)}{m}\right\}^{1/2}$이며, 이는 레벨 내 희소성 복원의 최적성을 확인한다.
• 소혼합 미분순도 영역에서의 Besov 공간 포함 $s_{p_0,q_0}^{r_0}b(\Omega) \to s_{p_1,q_1}^{r_1}b(\Omega)$에 대한 Gelfand 수는 단변수 경우와 동일하거나 최대 $\log\log m$ 요인의 차이를 보인다.
• 논문은 $\log\log m$ 요인이 표준 포함 기법의 산물일 수 있으며, 이를 정교한 혼합-norm 추정치를 통해 제거할 수 있을 것이라 제안하지만, 이는 아직 미해결 문제이다.