[論文レビュー] Interaction between Truth and Belief as the key to entropy and other quantities of statistical physics

Flemming Topsøe|ArXiv.org|Jul 27, 2008

Statistical Mechanics and Entropy参考文献 3被引用数 3

ひとこと要約

本稿は、客観的事実（x）と主観的信念（y）の間の相互作用をモデル化することにより、エントロピーおよび関連する統計力学的量を統一的に導出するフレームワークを提案する。弱い整合性のもとでの複雑さ最小化に基づく変分原理を用い、パラメータ化された相互作用関数 πq(x,y) = qx + (1−q)y および q 対数コーダー κq(y) = lnq(1/y) を通じて、Tsallis エントロピー族と関連する発散測度を導出する。ここで q ≥ 0 である。

ABSTRACT

The notion of entropy penetrates much of science. A key feature of the all-important notion of Boltzmann-Gibbs-Shannon entropy is its extensivity (additivity over independent subsystems). However, there is a need for other quantities. In statistical physics a parameterized family of non-extensive entropy measures, now mainly known under the name of Tsallis-entropies, have received much attention but also been met with criticism due mainly to a lack of convincing interpretations. Based on the hypothesis that interaction between Truth, held by ``Nature'', and Belief, as expressed by man, may take place, classical- as well as non-classical measures of entropy and other essential quantities are derived. The approach aims at providing a genuine interpretation, rather than relying either on analogies based on formal mathematical manipulations or else - more fruitfully, but not satisfactory - on axiomatic characterizations.

研究の動機と目的

• 非拡張的エントロピー測度、特に Tsallis エントロピーの真正な物理的解釈を、公理的または形式的類似性を超えて提供すること。
• 非拡張的統計力学における長年の解釈的ギャップを、真実と信念の原理的相互作用に根ざして解消すること。
• 物理的に動機づけられた最小限の仮定のもとで、第一原理からパラメータ化されたエントロピー、複雑さ、発散測度の族を導出すること。
• Tsallis エントロピー枠組みと、情報幾何学および Bregman 発散に根ざした変分原理との間の正式な関係を確立すること。

提案手法

• 有限のアルファベット A 上の確率分布として、真実（x）と信念（y）を表現する形式的モデルを導入する。
• 真実 x と信念 y が与えられたときのイベントの認識される力の度合を定量化する連続的相互作用関数 π(x,y) を定義し、整合性条件として π(x,x) = x を満たす。
• 各信念値 y に個別の複雑さを割り当てるコーダー関数 κ(y) を導入し、κ(1) = 0 および κ′(1) = −1 で正規化する。
• 相互作用下での個々の努力の重み付き和として、総複雑さ Φq(x,y) = ∑i πq(xi,yi)κq(yi) を定義する。
• 変分原理を適用する：エントロピー Hq(x) は、すべての信念割り当て y における最小複雑さとして定義され、y = x のときに達成される。
• 弱い整合性のもとで、一意的な関数形 πq(x,y) = qx + (1−q)y および κq(y) = lnq(1/y) が導出され、q ∈ [0,∞) となる。

実験結果

リサーチクエスチョン

• RQ1 Tsallis エントロピーのような非拡張的エントロピー測度を、公理的または形式的類似性を超えて、原理的物理的および情報的基盤からどのように導出できるか？
• RQ2 真実と信念の相互作用が、統計力学におけるエントロピーおよび発散測度の全族を生成する役割を果たすのはどのような状況か？
• RQ3 相互作用関数 π(x,y) が一貫した確率分布を生成する条件は何か？ そしてそれはパrameter q とどのように関係するか？
• RQ4 Tsallis エントロピーおよびその関連発散が、複雑さ最小化に基づく変分原理から導出可能か？
• RQ5 導出されたエントロピー枠組みにおけるパrameter q の数学的および物理的意義は何か？

主な発見

• 相互作用関数 πq(x,y) = qx + (1−q)y およびコーダー κq(y) = lnq(1/y) は、弱い整合性の仮定と最小複雑さの変分原理のもとで一意に決定される。
• 得られたエントロピー Hq(x) = ∑i xi lnq(1/xi) は、正確に q 階の Tsallis エントロピーに対応し、H1(x) はボルツマン＝ギブズ＝シャノン エントロピーに還元される。
• 強い整合性（すなわち πq(x,y) が確率分布を形成すること）が成り立つのは、q ∈ [0,1] のときに限り、Tsallis 統計の有効領域に対する物理的解釈が得られる。
• 発散 Dq(x,y) = Φq(x,y) − Hq(x) は Bregman 発散の一般化であり、その構造は相互作用関数およびコーダー関数によって完全に決定される。
• この枠組みは、自然に古典的ケース（q=1）および非拡張的ケース（q≠1）を含み、q=0 は特異的だが明確に定義された極限ケースに対応する。
• 導出は変分法に根ざし、Bregman 発散理論と接続されており、Tsallis 形式主義に厳密な数学的基盤を提供する。