[論文レビュー] Some remarks on Rényi relative entropy in a thermostatistical framework

G. Baris Bagci|ArXiv.org|Mar 1, 2007

Advanced Thermodynamics and Statistical Mechanics参考文献 1被引用数 5

ひとこと要約

この論文は、非平衡統計力学における一般化自由エネルギーとしてのRényi相対エントロピーの可能性を検討し、それが物理的意味を持つのはRényi指数 $ q \to 1 $ の極限に限られ、このときKullback-Leibler発散に帰着することを発見した。研究は、Rényi相対エントロピーがShore-Johnsonの原理に基づく公理的基盤を欠き、標準Boltzmann-Gibbs統計に等価である場合にのみ物理的に意味を持つことを結論づけた。

ABSTRACT

In ordinary Boltzmann-Gibbs thermostatistics, the relative entropy expression plays the role of generalized free energy, providing the difference between the off-equilibrium and equilibrium free energy terms associated with Boltzmann-Gibbs entropy. In this context, we studied whether this physical meaning can be given to Rényi relative entropy definition found in the literature from a generalized thermostatistical point of view. We find that this is possible only in the limit as $q$ approaches to 1. This shows that Rényi relative entropy has a physical (thermostatistical) meaning only when the system can already be explained by ordinary Boltzmann-Gibbs thermostatistics. Moreover, this can be taken as an indication of Rényi entropy being an equilibrium entropy since any relative entropy definition is a two-probability generalization of the associated entropy definition. We also note that this result is independent of the internal energy constraint employed. Finally, we comment on the lack of foundation of Rényi relative entropy as far as its minimization (which is equivalent to the maximization of Rényi entropy) is considered in order to obtain a stationary equilibrium distribution since Rényi relative entropy does not conform to Shore-Johnson axioms.

研究の動機と目的

• 非平衡統計力学的枠組みにおけるRényi相対エントロピーが一般化自由エネルギーとして機能できるかどうかを評価すること。
• Rényi相対エントロピーが $ q \to 1 $ の極限を越えて物理的意味を保持するかどうかを特定すること。
• Rényi相対エントロピーが相対エントロピー最小化による定常平衡分布の導出において、公理的妥当性を有するかどうかを評価すること。
• 内部エネルギー制約の選択が、Rényi相対エントロピーの物理的解釈に与える影響を検討すること。
• Boltzmann-Gibbs統計やTsallis統計といった既存の枠組みと比較し、Rényi相対エントロピーの整合性と適用可能性を検討すること。

提案手法

• 与えられた内部エネルギー制約のもとでRényiエントロピーを最大化し、関連する平衡分布を導出する。
• 標準的エントロピー最大化技術を用いて、$ q \to 1 $ の極限におけるRényi相対エントロピーの式とKullback-Leibler発散を比較する。
• Shore-Johnsonの公理を適用し、Rényi相対エントロピーが平衡分布の唯一の最小化原理として正当化できるかどうかを検証する。
• Rényi相対エントロピーの挙動をマイクロカノニカル系で分析し、BGエントロピーおよびK-L発散と比較する。
• エスカート分布形式を用いて、平衡エントロピーの直交基底に基づく導出との整合性を調査する。
• Lesche安定性条件をRényiエントロピーの整合性チェックとして用い、$ q \to 1 $ の極限と関連付ける。

実験結果

リサーチクエスチョン

• RQ1 Rényi相対エントロピーは非平衡統計力学における一般化自由エネルギーとして機能できるか？
• RQ2 Rényi相対エントロピーは $ q \to 1 $ の極限を超えて物理的解釈を有するか？
• RQ3 Rényi相対エントロピーは相対エントロピー最小化のためのShore-Johnson公理に適合するか？
• RQ4 内部エネルギー制約の選択が、Rényi相対エントロピーの物理的妥当性に与える影響は何か？
• RQ5 Rényi相対エントロピーは $ q \to 1 $ の極限において、Kullback-Leibler発散とどの程度等価となるか？

主な発見

• Rényi相対エントロピーは、$ q \to 1 $ の極限においてのみ物理的（統計力学的）意味を持つことが判明し、このときKullback-Leibler発散に帰着する。
• Rényi相対エントロピーを一般化自由エネルギーとしての物理的解釈は $ q \neq 1 $ の場合に無効であり、Rényiエントロピーが実質的にBoltzmann-Gibbs統計の極限でのみ平衡エントロピーとして機能することを示唆する。
• Rényi相対エントロピーはShore-Johnsonの公理を満たさず、平衡分布を得るための相対エントロピー最小化の基礎を損なう。
• 公理的根拠の欠如は、一般化統計力学における定常平衡分布を一貫して得るためのRényi相対エントロピー最小化が妥当でないことを意味する。
• この結果は内部エネルギー制約の選択に依存せず、Rényi形式固有の失敗であることが確認された。
• Lesche安定性条件との整合性も確認され、Rényiエントロピーが意味のある振る舞いを示すのは $ q \to 1 $ の極限に限られることを裏付け、Boltzmann-Gibbs統計への近似としての役割を強化する。