[论文解读] Rényi entropy power inequality and a reverse

Jiange Li|arXiv (Cornell University)|Apr 9, 2017

Point processes and geometric inequalities被引用 4

一句话总结

该论文利用杨氏卷积不等式中的精确常数，对独立随机向量的Rényi熵幂不等式（EPI）进行了改进，超越了Bobkov与Marsiglietti近期的结果。进一步地，该研究在两种情形下证实了关于对数凹向量的反向Rényi EPI猜想：$p=0$ 与 $p=2$，建立了 $N_p^{1/2}(X+Y) \leq N_p^{1/2}(X) + N_p^{1/2}(Y)$，并将这些不等式与凸几何中的 $p$-阶均值体联系起来。

ABSTRACT

This paper is twofold. In the first part, we present a refinement of the Rényi Entropy Power Inequality (EPI) recently obtained in \cite{BM16}. The proof largely follows the approach in \cite{DCT91} of employing Young's convolution inequalities with sharp constants. In the second part, we study the reversibility of the Rényi EPI, and confirm a conjecture in \cite{BNT15, MMX16} in two cases. Connections with various $p$-th mean bodies in convex geometry are also explored.

研究动机与目标

• 通过在杨卷积不等式中使用精确常数，对独立随机向量的Rényi熵幂不等式（EPI）进行改进。
• 研究Rényi EPI的可逆性，证实Ball、Nayar与Tkocz，以及Madiman、Melbourne与Xu提出的猜想在两种情形下成立：$p=0$ 与 $p=2$。
• 建立Rényi EPI与凸几何中几何对象（如 $p$-阶截面体与 $p$-阶均值体）之间的联系。
• 探讨Rényi熵幂的操作意义及其在函数不等式与信息论中的作用。

提出的方法

• 通过采用Dembo、Cover与Thomas的方法，结合杨卷积不等式中的精确常数，推导出改进后的Rényi EPI。
• 利用Rényi EPI与Rényi熵的凹性条件之间的等价性，通过不等式 $h_p(\lambda^{1/(2\alpha)}X + (1-\lambda)^{1/(2\alpha)}Y) \geq \lambda h_p(X) + (1-\lambda)h_p(Y)$ 表达该关系。
• 应用 $p$-余弦变换与球面Radon变换，将Rényi熵与几何体 $Z_p(f)$、$C_p(f)$ 与 $I(f)$ 联系起来。
• 证明当 $p \to -1^+$ 时 $p$-阶均值体的极限，表明 $Z_{-1}(f) = I(f)$，从而将Rényi熵与投影体的固有体积联系起来。
• 利用 $p$-阶截面体与 $p$-余弦变换之间的联系，证明在 $p=0$ 与 $p=2$ 时的反向Rényi EPI。
• 应用 $p$-阶均值体及其极限的理论，验证在对数凹设定下反向Rényi EPI猜想的成立。

实验结果

研究问题

• RQ1 能否在已知结果的基础上，通过更小的指数 $\alpha$ 改进Rényi EPI，特别是在 $p>1$ 的情形？
• RQ2 对于对数凹随机向量，当 $p=0$ 时，反向Rényi EPI猜想 $N_p^{1/2}(X+Y) \leq N_p^{1/2}(X) + N_p^{1/2}(Y)$ 是否成立？
• RQ3 在对数凹情形下，$p=2$ 时反向Rényi EPI猜想是否成立？
• RQ4 Rényi熵幂不等式与凸几何中的 $p$-阶均值体之间有何关联？
• RQ5 当 $p \to -1^+$ 时，$p$-阶均值体的极限行为如何？这与固有体积及投影体有何关系？

主要发现

• 通过使用杨不等式中的精确常数，对Rényi EPI进行了改进，得到了强于Bobkov与Marsiglietti先前结果的更强不等式。
• 在对称 $\kappa$-凹随机向量的情形下，证实了反向Rényi EPI猜想在 $p=0$ 与 $p=2$ 时成立，即 $N_p^{1/2}(X+Y) \leq N_p^{1/2}(X) + N_p^{1/2}(Y)$。
• 对于 $p=0$，反向Rényi EPI以指数 $1/2$ 成立，其极限情形对应于Brunn-Minkowski不等式。
• 对于 $p=2$，通过 $p$-余弦变换与投影体 $I(f)$ 的联系，验证了反向Rényi EPI，证明了 $Z_{-1}(f) = I(f)$。
• 证明了当 $p \to -1^+$ 时 $Z_p(f)$ 的极限为投影体 $I(f)$，从而将Rényi熵与几何测度联系起来。
• $p$-阶均值体 $C_p(f)$ 与 $p$-余弦变换相关，其在 $p \to -1^+$ 时的极限与投影体的固有体积相关。