[论文解读] Orlicz addition for measures and an optimization problem for the $f$-divergence

Shaoxiong Hou, Deping Ye|arXiv (Cornell University)|Jun 6, 2016

Point processes and geometric inequalities参考文献 22被引用 3

一句话总结

本文引入了测度的Orlicz加法，并将$f$-散度解释为在测度的线性Orlicz加法下总质量的一阶变分。文章建立了对偶函数型Orlicz-Brunn-Minkowski不等式，并证明在函数$\phi$满足凸性条件时，测度的对偶函数型Orlicz仿射和极小表面积在高斯测度处取得极值，从而导出新的函数型仿射等周不等式。

ABSTRACT

In this paper, the Orlicz addition of measures is proposed and an interpretation of the $f$-divergence is provided based on a linear Orlicz addition of two measures. Fundamental inequalities, such as, a dual functional Orlicz-Brunn-Minkowski inequality, are established. We also investigate an optimization problem for the $f$-divergence and establish functional affine isoperimetric inequalities for the dual functional Orlicz affine and geominimal surface areas of measures.

研究动机与目标

• 通过引入测度的Orlicz加法，发展对偶Orlicz-Brunn-Minkowski理论的函数型类比。
• 将$f$-散度解释为在两个测度的线性Orlicz加法下总质量的一阶变分。
• 研究$f$-散度的优化问题，并为测度定义对偶函数型Orlicz仿射和极小表面积。
• 为这些新表面积泛函建立函数型仿射等周不等式。
• 证明在函数$\phi$满足适当的凸性和单调性条件时，这些泛函的极值在高斯测度处取得。

提出的方法

• 通过涉及一个函数$\varphi \in \Phi_m$的隐式方程定义非负可测函数$p_1, \dots, p_m \in \mathscr{F}$的Orlicz加法，其中$\varphi$在每个分量上严格递增且满足$\varphi(\mathbf{0}) = 0$。
• 通过将所得测度的总质量定义为密度函数Orlicz和的$L^1$-范数，将Orlicz加法扩展到测度。
• 使用$f$-散度$D_f(P,Q) = \int_\Omega f(p/q) q \, d\mu$作为核心功能工具，将其解释为在线性Orlicz加法下的第一阶变分。
• 通过证明其等价于积分的Jensen不等式，建立对偶函数型Orlicz-Brunn-Minkowski不等式。
• 将对偶函数型Orlicz仿射表面积$\widetilde{\Omega}_\phi^{orlicz}(P)$定义为在测度类$\mathscr{D}$上$f$-散度的下确界，类似地定义极小表面积$\widetilde{G}_\phi^{orlicz}(P)$。
• 证明对于对数凹测度$P$，当$\phi \in \Phi$时，泛函$\widetilde{\Omega}_\phi^{orlicz}(P)$和$\widetilde{G}_\phi^{orlicz}(P)$在高斯测度$\gamma_n \circ c_1$处取得最大值。

实验结果

研究问题

• RQ1 如何将$f$-散度解释为在两个测度的线性Orlicz加法下的第一阶变分？
• RQ2 测度的对偶函数型Orlicz-Brunn-Minkowski理论的函数型类比是什么？它与经典Brunn-Minkowski不等式有何关联？
• RQ3 在何种条件下，测度的对偶函数型Orlicz仿射和极小表面积达到其极值？
• RQ4 对偶函数型Orlicz-Brunn-Minkowski不等式是否等价于积分的Jensen不等式？
• RQ5 对偶函数型Orlicz表面积是否可以被最小化或最大化？如果是，它们在哪些测度处取得极值？

主要发现

• 对偶函数型Orlicz-Brunn-Minkowski不等式等价于积分的Jensen不等式，从而在信息论与泛函分析之间建立了深刻联系。
• 当$\phi \in \Phi$时，对偶函数型Orlicz仿射表面积$\widetilde{\Omega}_\phi^{orlicz}(P)$有上界$\phi(c_1^n) c_1^{-n} \mu(\gamma_n)$，且当$P = \gamma_n \circ c_1$时取等。
• 对偶函数型Orlicz极小表面积$\widetilde{G}_\phi^{orlicz}(P)$在所有对数凹测度$P \in \mathscr{D}$中于高斯测度$\gamma_n \circ c_1$处取得最大值。
• 当$\phi$严格凸但不属于$\Phi$时，$\widetilde{\Omega}_\phi^{orlicz}(P)$的上界$\phi(c_1^n) c_1^{-n} \mu(\gamma_n)$仍然成立，其中$c_1 > 0$如定理15中所定义。
• 在给定条件下，对偶Orlicz表面积的函数型仿射等周不等式是精确的，且仅在高斯测度处取得等号。
• 所提出的Orlicz加法运算推广了经典的$L_p$-加法，并为在非线性、非齐次运算下研究几何与信息论泛函提供了一个灵活的框架。