[论文解读] Chain rules and subadditivities for Tsallis entropies

Shigeru Furuichi|arXiv (Cornell University)|May 26, 2004

Statistical Mechanics and Entropy被引用 2

一句话总结

本文推导了Tsallis熵的链式法则，阐明了其在联合熵与条件熵之间的关系，并利用广义Shannon不等式证明了当变量相关时，对于 q ≥ 1 的情况具有次可加性。主要贡献在于在更广泛的链式法则框架下统一了非广延统计中的伪可加性。

ABSTRACT

Abstract. Chain rules for Tsallis type entropies are proven, as including the famous pseudoadditivity in nonextensive statistics as a special case. They give important relations between Tsallis conditional entropy and Tsallis joint entropy. Moreover the subadditivity of Tsallis type entropies is shown for the correlated two random variables in the case of q ≥ 1 with the help of the generalized Shannon inequality.

研究动机与目标

• 推导涵盖非广延统计中著名伪可加性关系的Tsallis熵的一般链式法则。
• 研究相关随机变量下Tsallis熵的次可加性性质。
• 建立次可加性成立的条件，特别是针对 q ≥ 1 的情况。
• 应用广义Shannon不等式，证明相关系统中的次可加性。
• 通过Tsallis熵统一并扩展非广延统计力学中的基础关系。

提出的方法

• 通过利用非广延统计中固有的 q-导数和 q-对数函数，推导Tsallis熵的链式法则。
• 应用广义Shannon不等式，以个体熵和条件熵表示联合熵的上界。
• 通过考虑 q ≥ 1 的联合概率分布，分析Tsallis熵在相关性下的行为。
• 证明当广义Shannon不等式在给定相关性约束下成立时，次可加性成立。
• 通过q-熵的代数运算，表明当 q ≥ 1 时，联合熵的上界不超过个体熵之和。
• 证明伪可加性是所推导链式法则的特例，从而统一了先前结果。

实验结果

研究问题

• RQ1 Tsallis熵的链式法则如何被形式化推导，其一般结构是什么？
• RQ2 在存在相关性的情况下，Tsallis熵的次可加性在何种条件下成立？
• RQ3 著名的伪可加性性质能否作为更广泛链式法则框架下的特例被恢复？
• RQ4 广义Shannon不等式在证明相关系统中次可加性方面起到什么作用？
• RQ5 参数 q ≥ 1 在确保Tsallis熵次可加性方面发挥什么作用？

主要发现

• 本文推导出Tsallis熵的一般链式法则，统一并扩展了非广延统计中的伪可加性性质。
• 对于相关联的两随机变量系统，当 q ≥ 1 时，Tsallis熵的次可加性得到严格证明。
• 广义Shannon不等式在相关性条件下建立次可加性条件中起到关键作用。
• 所推导的链式法则为关联联合熵、边缘熵与条件Tsallis熵提供了系统性方法。
• 证明了伪可加性是本文所建立更广泛链式法则框架下的特例。
• 结果表明，Tsallis熵在与标准熵相同的条件下满足次可加性，但带有与 q 相关的修正项。