[论文解读] Nongeneralizability of Tsallis Entropy by means of Kolmogorov-Nagumo averages under pseudo-additivity

Ambedkar Dukkipati, M.N. Murty+1 more|ArXiv.org|May 30, 2005

Statistical Mechanics and Entropy参考文献 8被引用 3

一句话总结

本文证明，通过柯尔莫哥洛夫-纳古莫夫（KN）平均无法在保持其定义性伪加法性属性的前提下推广Tsallis熵。通过分析KN平均后的Tsallis熵满足 $ S_q(pr) = S_q(p) +_q S_q(r) $ 所需的函数约束，作者证明只有线性KN函数满足必要条件，从而使推广形式退化为标准Tsallis熵，从而在该框架下证明其不可推广性。

ABSTRACT

As additivity is a characteristic property of the classical information measure, Shannon entropy, pseudo-additivity is a characteristic property of Tsallis entropy. Renyi generalized Shannon entropy by means of Kolmogorov-Nagumo averages, by imposing additivity as a constraint.In this paper we show that there exists no generalization for Tsallis entropy, by means of Kolmogorov-Nagumo averages, which preserves the pseudo-additivity.

研究动机与目标

• 研究Tsallis熵是否可以通过柯尔莫哥洛夫-纳古莫夫（KN）平均实现推广，同时保持其伪加法性属性。
• 确定KN函数 $ \psi $ 的函数形式，使得推广的熵度量能够保持Tsallis熵的 $ q $-加法结构。
• 建立KN平均熵满足独立概率分布伪加法性的数学约束条件。
• 阐明Rényi熵（通过KN平均实现推广并保持加法性）与Tsallis熵（在相同形式下无法实现此类推广）之间的根本区别。

提出的方法

• 将广义熵形式化为 $ \widetilde{S}_{\psi}(p) = \psi^{-1}\left[\sum_k p_k \psi(\ln_q(1/p_k))\right] $，其中 $ \psi $ 为KN函数。
• 对独立分布 $ p $ 和 $ r $ 施加伪加法性条件 $ \widetilde{S}_{\psi}(pr) = \widetilde{S}_{\psi}(p) +_q \widetilde{S}_{\psi}(r) $。
• 推导出函数方程 $ \psi^{-1}\left[\sum_{i,j} p_i r_j \psi(\widetilde{H}_i^p +_q \widetilde{H}_j^r)\right] = \psi^{-1}\left[\sum_i p_i \psi(\widetilde{H}_i^p)\right] +_q \psi^{-1}\left[\sum_j r_j \psi(\widetilde{H}_j^r)\right] $。
• 通过代入 $ \widetilde{H}_j^r = J $（常数）分析所得方程，推导出条件 $ \psi^{-1}\left[\sum_k p_k \psi(\widetilde{H}_k^p +_q J)\right] = \psi^{-1}\left[\sum_k p_k \psi(\widetilde{H}_k^p)\right] +_q J $。
• 将该条件简化为 $ \langle x +_q C \rangle_\psi = \langle x \rangle_\psi +_q C $，并进一步简化为线性函数方程 $ \langle x + C \rangle_\psi = \langle x \rangle_\psi + C $ 和 $ \langle Bx \rangle_\psi = B \langle x \rangle_\psi $。
• 得出结论：仅线性 $ \psi $ 满足两个条件，意味着广义形式退化为标准Tsallis熵。

实验结果

研究问题

• RQ1 Tsallis熵能否通过柯尔莫哥洛夫-纳古莫夫平均实现推广，同时保持其伪加法性属性？
• RQ2 KN函数 $ \psi $ 必须具有何种函数形式，才能使广义熵满足 $ \widetilde{S}_{\psi}(pr) = \widetilde{S}_{\psi}(p) +_q \widetilde{S}_{\psi}(r) $？
• RQ3 为何Rényi熵通过KN平均的推广不适用于Tsallis熵，尽管两者都是Shannon熵的一参数推广？
• RQ4 是否存在非线性KN函数，可产生一个推广Tsallis熵的伪加法性熵？
• RQ5 使广义熵保持 $ q $-加法结构的 $ \psi $ 的必要且充分条件是什么？

主要发现

• 唯一同时满足平移不变性 $ \langle x + C \rangle_\psi = \langle x \rangle_\psi + C $ 和缩放条件 $ \langle Bx \rangle_\psi = B \langle x \rangle_\psi $ 的KN函数 $ \psi $ 是线性函数。
• 当 $ \psi $ 为线性时，广义熵 $ \widetilde{S}_{\psi}(p) $ 退化为标准Tsallis熵 $ S_q(p) = \frac{1 - \sum_k p_k^q}{q - 1} $。
• 非线性KN函数（如指数函数）虽满足平移不变性，但不满足缩放条件，因此违反了所需的伪加法性。
• 在KN平均下要求伪加法性，强制 $ \psi $ 的函数形式必须为线性，从而消除了Tsallis熵非平凡推广的可能性。
• 该结果证明，Tsallis熵在伪加法性约束下与KN平均推广框架本质上不相容，而Rényi熵则不然。
• 该结果确立了明确的数学边界：在保持其核心结构属性——伪加法性——的前提下，Tsallis熵无法通过KN平均扩展至标准形式之外。