[論文レビュー] Nongeneralizability of Tsallis Entropy by means of Kolmogorov-Nagumo averages under pseudo-additivity

Ambedkar Dukkipati, M.N. Murty+1 more|ArXiv.org|May 30, 2005

Statistical Mechanics and Entropy参考文献 8被引用数 3

ひとこと要約

この論文は、擬似加法性という特徴的性質を保ったまま、コルモゴロフ＝ナグウモ（KN）平均を用いたTsallisエントロピーの一般化が不可能であることを示している。KN平均によるTsallisエントロピーが $ S_q(pr) = S_q(p) +_q S_q(r) $ を満たすために必要な関数的制約を分析することで、著者らは、必要な条件を満たすのは線形KN関数に限られ、一般化形は元のTsallisエントロピーに戻ることを証明した。これにより、この枠組み下での一般化不可能性が示された。

ABSTRACT

As additivity is a characteristic property of the classical information measure, Shannon entropy, pseudo-additivity is a characteristic property of Tsallis entropy. Renyi generalized Shannon entropy by means of Kolmogorov-Nagumo averages, by imposing additivity as a constraint.In this paper we show that there exists no generalization for Tsallis entropy, by means of Kolmogorov-Nagumo averages, which preserves the pseudo-additivity.

研究の動機と目的

• Tsallisエントロピーが、擬似加法性という性質を保ったまま、コルモゴロフ＝ナグウモ（KN）平均を用いて一般化可能かどうかを調査すること。
• 一般化されたエントロピー測度がTsallisエントロピーの $ q $-加法的構造を維持できるようにするためのKN関数 $ \psi $ の関数形を特定すること。
• 独立な確率分布に対してKN平均されたエントロピーが擬似加法性を満たすための数学的制約を確立すること。
• Rényiエントロピー（KN平均による一般化で加法性を満たす）とTsallisエントロピー（同じ形式論においては一般化に抵抗する）の根本的な違いを明確にすること。

提案手法

• 一般化されたエントロピーを $ \widetilde{S}_{\psi}(p) = \psi^{-1}\left[\sum_k p_k \psi(\ln_q(1/p_k))\right] $ として定式化し、ここで $ \psi $ はKN関数である。
• 独立な分布 $ p $ と $ r $ に対して、擬似加法性条件 $ \widetilde{S}_{\psi}(pr) = \widetilde{S}_{\psi}(p) +_q \widetilde{S}_{\psi}(r) $ を課す。
• 関数方程式 $ \psi^{-1}\left[\sum_{i,j} p_i r_j \psi(\widetilde{H}_i^p +_q \widetilde{H}_j^r)\right] = \psi^{-1}\left[\sum_i p_i \psi(\widetilde{H}_i^p)\right] +_q \psi^{-1}\left[\sum_j r_j \psi(\widetilde{H}_j^r)\right] $ を導出する。
• 変数 $ \widetilde{H}_j^r = J $（定数）と置換することで、方程式を $ \psi^{-1}\left[\sum_k p_k \psi(\widetilde{H}_k^p +_q J)\right] = \psi^{-1}\left[\sum_k p_k \psi(\widetilde{H}_k^p)\right] +_q J $ に簡略化する。
• この条件を $ \langle x +_q C \rangle_\psi = \langle x \rangle_\psi +_q C $ に還元し、さらに線形関数方程式 $ \langle x + C \rangle_\psi = \langle x \rangle_\psi + C $ および $ \langle Bx \rangle_\psi = B \langle x \rangle_\psi $ に帰着させる。
• 結論として、両条件を満たすのは線形 $ \psi $ のみであり、一般化形が標準的なTsallisエントロピーに還元されることを示す。

実験結果

リサーチクエスチョン

• RQ1 Tsallisエントロピーは、擬似加法性という性質を保ったまま、コルモゴロフ＝ナグウモ平均によって一般化可能か？
• RQ2 一般化されたエントロピー $ \widetilde{S}_{\psi}(pr) = \widetilde{S}_{\psi}(p) +_q \widetilde{S}_{\psi}(r) $ を満たすために、KN関数 $ \psi $ がとらねばならない関数形は何か？
• RQ3 RényiエントロピーはKN平均による一般化で加法性を満たすが、Tsallisエントロピーにはその一般化が拡張されないのはなぜか？（両者ともシャノンエントロピーの1パラメータ一般化であるが。）
• RQ4 Tsallisエントロピーの擬似加法的エントロピー一般化を実現する非線形KN関数は存在するか？
• RQ5 一般化されたエントロピーが $ q $-加法的構造を維持するための $ \psi $ に対する必要十分条件は何か？

主な発見

• シフト不変性 $ \langle x + C \rangle_\psi = \langle x \rangle_\psi + C $ とスケーリング条件 $ \langle Bx \rangle_\psi = B \langle x \rangle_\psi $ の両方を満たす唯一のKN関数 $ \psi $ は線形関数である。
• $ \psi $ が線形であるとき、一般化されたエントロピー $ \widetilde{S}_{\psi}(p) $ は標準的なTsallisエントロピー $ S_q(p) = \frac{1 - \sum_k p_k^q}{q - 1} $ に還元される。
• 非線形KN関数（例：指数関数）はシフト不変性を満たすが、スケーリング条件を満たさないため、必要な擬似加法性を破る。
• KN平均下での擬似加法性の要請は、$ \psi $ の関数形が線形でなければならないことを強制し、Tsallisエントロピーの非自明な一般化の可能性を排除する。
• これは、Tsallisエントロピーが、擬似加法性の制約のもとでKN平均による一般化と根本的になじまないことを証明しており、Rényiエントロピーとは対照的である。
• この結果により、明確な数学的境界が確立される：Tsallisエントロピーは、擬似加法性という核心的構造的性質を保ったまま、KN平均による拡張は標準形を超えて不可能である。