[논문 리뷰] Entropy numbers and Marcinkiewicz-type discretization theorem

Feng Dai, Andriy Prymak외 3명|arXiv (Cornell University)|2020. 01. 28.

Mathematical Approximation and Integration참고 문헌 19인용 수 18

한 줄 요약

이 논문은 유한차원 함수 부분공간의 균일 노름에서 엔트로피 수의 상계를 확립하고, 이를 바탕으로 $L_p$ 노름에 대한 마르친키에비치 유형의 이산화 정리 증명을 한다. 주요 기여는 가중치를 고려한 구조적 이산화 결과로, $N$-차원 부분공간에서 $L_2$ 노름을 균일하게 근사하기 위해 $O(N \log N)$개의 샘플링 점이 충분함을 보이며, 상수는 상대적 샘플링 밀도에만 의존한다.

ABSTRACT

This paper studies the behavior of the entropy numbers of classes of functions with bounded integral norms from a given finite dimensional linear subspace. Upper bounds of these entropy numbers in the uniform norm are obtained and applied to establish a Marcinkiewicz type discretization theorem for integral norms of functions from a given finite dimensional subspace.

연구 동기 및 목표

• 유한차원 부분공간 내에서 $L_p$ 노름이 유계인 함수들의 클래스의 엔트로피 수를 분석하기 위해.
• 균일 노름에서 이러한 엔트로피 수의 상계를 도출하기 위해.
• 엔트로피 상계를 적용하여 유한차원 부분공간에서 $L_p$ 노름에 대한 마르친키에비치 유형의 이산화 정리를 확립하기 위해.
• 최적의 샘플 크기 $m = O(N \log N)$를 갖는 가중치가 부여된 샘플링 이산화 계획을 구성하기 위해.
• 기능 해석 기법을 사용하여 $1 \leq p < 2$인 $L_p$ 노름으로 이산화 결과를 확장하기 위해.

제안 방법

• 함수 클래스의 메트릭 엔트로피를 $L_\infty$에서 측정하기 위해 커버링 수와 엔트로피 수를 사용하기 위해.
• 코시-슈와르츠 부등식의 적용과 변환 $Uf(x) = f(x)/F(x)$를 통한 $L_2$-노름 보존, 여기서 $F(x) = \left(\frac{1}{N}\sum_{j=1}^N \varphi_j(x)^2\right)^{1/2}$이다.
• 이산화 문제를 $d\nu = F^2 d\mu$에 의한 $L_2(\Omega_0, d\nu)$의 부분공간으로 환원하여, 기존의 부분공간 이산화 결과 적용 가능하게 하기 위해.
• 이전 연구에서의 정리 1.2를 적용하여 $L_2$-노름이 인자 $3/2$ 이내로 보존되는 크기 $O(N \log N)$인 유한 집합 $\Lambda \subset \Omega_0$를 확보하기 위해.
• 레마 5.1의 사용을 통해 $m \leq bN$개의 점과 가중치 $\lambda_j$를 갖는 가중치가 부여된 샘플링 이산화를 구성하여, 모든 $f \in X_N$에 대해 $\|f\|_2^2 \leq \sum \lambda_j |f(x^j)|^2 \leq C(b-1)^{-2} \|f\|_2^2$를 확보하기 위해.
• $1 \leq p < 2$로의 확장은 반바흐-마즈르 거리와 $L(X_N, q, \varepsilon)$ 유형의 추정치를 사용하여 수행되며, 이산화가 $\ell_q^m$에서의 메트릭 엔트로피와 연결된다.

실험 결과

연구 질문

• RQ1 균일 노름 하에서 $N$-차원 부분공간 내에서 $L_p$-유계 함수들의 엔트로피 수의 상계는 무엇인가?
• RQ2 이러한 엔트로피 상계를 사용하여 $L_p$ 노름에 대한 오차를 통제할 수 있는 샘플링 이산화 계획을 구성할 수 있는가?
• RQ3 $N$-차원 부분공간에서 $L_2$ 노름을 균일하게 근사하기 위해 필요한 최소 샘플링 점의 수는 얼마인가?
• RQ4 이산화 품질은 상대적 샘플링 밀도 $b = m/N$에 따라 어떻게 달라지는가?
• RQ5 $L_2$ 이산화 결과를 기능 해석 도구를 사용하여 $1 \leq p < 2$인 $L_p$ 노름으로 확장할 수 있는가?

주요 결과

• 엔트로피 수 $\varepsilon_k(X_N^p, L_\infty)$는 $N$과 $p$에 따라 표현되며, 이는 유한차원 부분공간 내 함수 클래스의 메트릭 엔트로피 추정에 기여한다.
• 모든 $N$-차원 부분공간 $X_N \subset L_\infty(\Omega)$에 대해, $m = O(N \log N)$개의 점 $\{x^j\}$과 음이 아닌 가중치 $\lambda_j$가 존재하여 모든 $f \in X_N$에 대해 $\|f\|_2^2 \leq \sum_{j=1}^m \lambda_j |f(x^j)|^2 \leq C(b-1)^{-2} \|f\|_2^2$를 만족한다. 여기서 $b = m/N \in (1,2]$이다.
• 상한에 있는 상수 $C$는 절대적이며, $b$에 대한 의존성은 정확하다: $b \to 1^+$일 때 상수는 $(b-1)^{-2}$처럼 발산한다.
• 이 결과는 $X_N \in \mathcal{M}(m,2,\varepsilon)$이며, $\varepsilon \sim (b-1)^{-2}/m$임을 시사하며, 이는 $\varepsilon$-근접 이산화에 $m = O(N \log N)$개의 점이 충분함을 보여준다.
• $1 \leq p < 2$인 경우, 반바흐-마즈르 거리 추정치를 통해 방법이 확장되며, $L(X_N, q, \varepsilon)$ 추정치가 $m = O(N \log N)$개의 점으로 이산화 가능함을 보여준다. 적절한 조건 하에서 성립한다.
• 이 구성은 효과적이며, $F(x)$-가중 측도와 부분공간 통합을 포함한 확률론적 및 기하학적 기법을 기반으로 한 기능 해석 기법에 의존한다.