[论文解读] Some remarks on Rényi relative entropy in a thermostatistical framework

G. Baris Bagci|ArXiv.org|Mar 1, 2007

Advanced Thermodynamics and Statistical Mechanics参考文献 1被引用 5

一句话总结

本文研究了Rényi相对熵是否可在非平衡系综统计力学中作为广义自由能，发现其仅在Rényi指数 $ q \to 1 $ 的极限下具有物理意义，此时退化为Kullback-Leibler散度。研究结论指出，Rényi相对熵在Shore-Johnson原则下缺乏公理基础，仅当其等价于标准Boltzmann-Gibbs统计时才具有物理意义。

ABSTRACT

In ordinary Boltzmann-Gibbs thermostatistics, the relative entropy expression plays the role of generalized free energy, providing the difference between the off-equilibrium and equilibrium free energy terms associated with Boltzmann-Gibbs entropy. In this context, we studied whether this physical meaning can be given to Rényi relative entropy definition found in the literature from a generalized thermostatistical point of view. We find that this is possible only in the limit as $q$ approaches to 1. This shows that Rényi relative entropy has a physical (thermostatistical) meaning only when the system can already be explained by ordinary Boltzmann-Gibbs thermostatistics. Moreover, this can be taken as an indication of Rényi entropy being an equilibrium entropy since any relative entropy definition is a two-probability generalization of the associated entropy definition. We also note that this result is independent of the internal energy constraint employed. Finally, we comment on the lack of foundation of Rényi relative entropy as far as its minimization (which is equivalent to the maximization of Rényi entropy) is considered in order to obtain a stationary equilibrium distribution since Rényi relative entropy does not conform to Shore-Johnson axioms.

研究动机与目标

• 评估Rényi相对熵是否可在非平衡系综统计力学框架中充当广义自由能。
• 确定Rényi相对熵在 $ q \to 1 $ 极限之外是否仍保持物理意义，此时其退化为Kullback-Leibler散度。
• 评估Rényi相对熵在通过最小化推导平稳平衡分布时的公理有效性。
• 考察内能约束的选择是否影响Rényi相对熵的物理解释。
• 比较Rényi相对熵与Boltzmann-Gibbs和Tsallis统计等既定框架在一致性与适用性方面的表现。

提出的方法

• 在给定内能约束下最大化Rényi熵，以推导相应的平衡分布。
• 使用标准熵最大化技术，在 $ q \to 1 $ 极限下将所得Rényi相对熵表达式与Kullback-Leibler散度进行比较。
• 应用Shore-Johnson公理，检验Rényi相对熵是否可作为获得平衡分布的唯一最小化原理。
• 分析Rényi相对熵在微正则系综中的行为，并与BG熵和K-L散度进行比较。
• 使用escort分布形式化方法，探讨其与基于正交基推导的平衡熵的一致性。
• 将Lesche稳定性条件用作Rényi熵的一致性检验，将其与 $ q \to 1 $ 极限联系起来。

实验结果

研究问题

• RQ1 Rényi相对熵是否可在非平衡系综统计力学中充当广义自由能？
• RQ2 Rényi相对熵在 $ q \to 1 $ 极限之外是否具有物理解释？
• RQ3 Rényi相对熵是否与Shore-Johnson公理一致，适用于相对熵最小化？
• RQ4 内能约束的选择如何影响Rényi相对熵的物理有效性？
• RQ5 Rényi相对熵在 $ q \to 1 $ 极限下与Kullback-Leibler散度的等价程度如何？

主要发现

• Rényi相对熵仅在 $ q \to 1 $ 极限下获得物理（统计力学）意义，此时退化为Kullback-Leibler散度。
• 将Rényi相对熵解释为广义自由能的物理意义在 $ q \neq 1 $ 时无效，表明Rényi熵在广义统计力学中仅在BG极限下为有效平衡熵。
• Rényi相对熵不符合Shore-Johnson公理，削弱了其作为最小化相对熵以获得平衡分布的理论基础。
• 缺乏公理支持意味着在广义统计力学中，最小化Rényi相对熵无法一致地导出平稳平衡分布。
• 该结果与所采用的内能约束无关，证实其失败源于Rényi形式本身的内在缺陷。
• 研究结果与Lesche稳定性条件一致，后者同样限制Rényi熵仅在 $ q \to 1 $ 极限下具有有意义的行为，进一步支持其作为Boltzmann-Gibbs统计近似的作用。