[论文解读] Optimal Transport to the Entropy-Power Inequality and a Reverse Inequality.

Olivier Rioul|arXiv (Cornell University)|Jan 30, 2017

Advanced Thermodynamics and Statistical Mechanics被引用 1

一句话总结

本文通过一个简单的变量替换，提出了一种基于最优传输的熵幂不等式新证明，提供了一种在单变量和多变量情形下均适用的统一且透明的方法。该方法还导出了一个涉及条件微分熵的逆不等式，其等式成立条件可轻松识别。

ABSTRACT

We present a simple proof of the entropy-power inequality using an optimal transportation argument which takes the form of a simple change of variables. The same argument yields a reverse inequality involving a conditional differential entropy which has its own interest. It can also be generalized in various ways. The equality case is easily captured by this method and the proof is formally identical in one and several dimensions.

研究动机与目标

• 通过最优传输理论，提供一种简单且可推广的熵幂不等式证明方法。
• 推导一个涉及条件微分熵的逆不等式，扩展该框架的适用范围。
• 通过相同方法刻画熵幂不等式中等式成立的条件。
• 将该方法推广至更广泛的概率分布类和设定场景。

提出的方法

• 证明利用最优传输映射作为变量替换，将熵幂不等式转化为更易处理的形式。
• 核心论证依赖于在概率分布之间诱导的最优传输映射所引起的变量替换。
• 该方法自然地扩展至多变量情形，且在一维与多维情形下保持形式上的相似性。
• 通过在相同传输框架下分析条件微分熵，推导出逆不等式。
• 通过分析传输映射的结构及其性质，识别出等式成立的条件。
• 该方法在一维与多维情形下形式完全一致，简化了推广过程。

实验结果

研究问题

• RQ1 如何利用最优传输理论以一种既简洁又可推广的方式证明熵幂不等式？
• RQ2 从相同的传输框架中，会涌现出何种涉及条件微分熵的逆不等式？
• RQ3 熵幂不等式中等式成立的条件是什么？如何通过最优传输方法捕捉这些条件？
• RQ4 该方法能否在单变量与多变量情形下统一应用？
• RQ5 通过这种基于传输的方法，不等式的更广泛推广形式有哪些可能？

主要发现

• 通过最优传输诱导的变量替换，证明了熵幂不等式，得出简洁且清晰的论证。
• 推导出一个关于条件微分熵的逆不等式，该不等式在相同框架下成立，且具有独立研究价值。
• 熵幂不等式中的等式成立情况可通过最优传输映射的结构轻松刻画。
• 该证明方法在一维与多维情形下形式完全一致，便于直接推广。
• 该方法为理解熵幂不等式提供了统一且几何直观的基础。
• 该框架自然地容纳了对更广泛分布类及相关不等式的扩展。