[論文レビュー] Links between the Logarithmic Sobolev Inequality and the convolution inequalities for Entropy and Fisher Information

Thomas A. Courtade|arXiv (Cornell University)|Aug 18, 2016

Point processes and geometric inequalities参考文献 22被引用数 9

ひとこと要約

本稿は、対数的ソボレフ不等式（LSI）、エントロピー・パワー不等式（EPI）、フィッシャー情報不等式（FII）を結ぶ次元に依存しない補間不等式を確立し、LSIの欠損項が畳み込み不等式を満たし、エントロピー的およびフィッシャー情報中央極限定理における収束を制御することを示している。主な結果は、これらの基本的な情報理論的関係を補間する統一的な不等式であり、新たな安定性結果および改良されたハイパーコントラクト性推定を可能にする。

ABSTRACT

Relative to the Gaussian measure on $\mathbb{R}^d$, entropy and Fisher information are famously related via Gross' logarithmic Sobolev inequality (LSI). These same functionals also separately satisfy convolution inequalities, as proved by Stam. We establish a dimension-free inequality that interpolates among these relations. Several interesting corollaries follow: (i) the deficit in the LSI satisfies a convolution inequality itself; (ii) the deficit in the LSI controls convergence in the entropic and Fisher information central limit theorems; and (iii) the LSI is stable with respect to HWI jumps (i.e., a jump in any of the convolution inequalities associated to the HWI functionals). Another consequence is that the convolution inequalities for Fisher information and entropy powers are reversible in general, up to a factor depending on the Stam defect. An improved form of Nelson's hypercontractivity estimate also follows. Finally, we speculate on the possibility of an analogous reverse Brunn-Minkowski inequality and a related upper bound on surface area associated to Minkowski sums.

研究の動機と目的

• 対数的ソボレフ不等式（LSI）、エントロピー・パワー不等式（EPI）、フィッシャー情報不等式（FII）の間を補間する統一的かつ次元に依存しない不等式を確立すること。
• LSIの欠損項が畳み込み不等式を満たすことを示し、畳み込み操作におけるLSIの安定性を定量的に評価すること。
• LSIの欠損項がエントロピー的およびフィッシャー情報中央極限定理における収束速度を制御することを示すこと。
• 新しい補間フレームワークを用いたネルソンの不等式の精密分析により、改良されたハイパーコントラクト性推定を導出すること。
• 幾何的類似物、例えば逆のブルン＝ミンコフスキー不等式やミンコフスキー和の表面積に関する境界についての考察を行うこと。

提案手法

• 独立的かつ中心化された確率的ベクトルに対して有効な、相対エントロピー $ D(X) $、相対フィッシャー情報 $ I(X) $、重み付き和 $ \sqrt{\theta}X + \sqrt{\bar{\theta}}Y $ のエントロピーを含む一般化された補間不等式を導出する。
• LSIとスタムの欠損項 $ \mathsf{p}(X) = \frac{1}{d}N(X)J(X) \geq 1 $ の等価性を用い、de Bruijnの恒等式および関数計算を介してEPIおよびFIIと結びつける。
• LSIの欠損項 $ \delta_{\mathsf{LSI}}(X) $ の平行移動不変性を応用し、補間不等式を簡略化および一般化する。
• 変分的アプローチとオルンシュタイン＝ウーレンバック半群における $ L^p $ 空間のノルムの微分を用い、鋭いハイパーコントラクト性推定を導出する。
• 補間不等式と「スタム欠損項」を制御パラメータとして用いることで、逆EPIおよび逆FIIを確立する。
• 関数の滑らかさとノルムの微分可能性を用いて微分不等式を導出し、精密化されたハイパーコントラクト性境界に至る。

実験結果

リサーチクエスチョン

• RQ1 LSIの欠損項が畳み込み不等式を満たすことを示し、畳み込みにおけるLSIの安定性を定量的に評価できるか？
• RQ2 LSIの欠損項はエントロピー的およびフィッシャー情報中央極限定理における収束速度を制御するか？
• RQ3 古典的EPIおよびFIIは、スタム欠損項に依存する係数まで逆転可能であり、その条件は何か？
• RQ4 ミンコフスキー和に関して、逆ブルン＝ミンコフスキー不等式のような幾何的類似物は存在するか？
• RQ5 LSIの欠損項を指数部の定量的項として組み込むことで、ネルソンのハイパーコントラクト性推定を改善できるか？

主な発見

• LSIの欠損項は畳み込み不等式を満たす：$ \theta D(X) + \bar{\theta}D(Y) \leq \bar{\theta}\delta_{\mathsf{LSI}}(X) + \theta\delta_{\mathsf{LSI}}(Y) + D(\sqrt{\theta}X + \sqrt{\bar{\theta}}Y) $、これはLSIの畳み込みにおける安定性を定量的に評価する。
• LSIの欠損項はエントロピー的およびフィッシャー情報中央極限定理における収束を制御し、収束の定量的レートを提供する。
• EPIおよびFIIは、スタム欠損項 $ \mathsf{p}(X) $ に依存する係数まで逆転可能であり、同じ補間フレームワーク下で逆不等式が成り立つ。
• ネルソンのハイパーコントラクト性推定の改良形が導出された：$ \|P_t f\|^{\bar{\theta}}_{L^{q(t)}(\gamma)} \|P_t g\|^{\theta}_{L^{q(t)}(\gamma)} \leq \exp\left(-\frac{2t}{p p'} E_{p,\theta}(f,g) + o(t)\right) \|f\|^{\bar{\theta}}_{L^p(\gamma)} \|g\|^{\theta}_{L^p(\gamma)} $、ここで $ E_{p,\theta}(f,g) $ は補間不等式における欠損項を測定する。
• 本稿では幾何的類似物についての考察を行う：ミンコフスキー和に関して、表面積比が個々の比の重み付き幾何平均によって上界で抑えられる可能性のある逆ブルン＝ミンコフスキー不等式の可能性について。