[論文レビュー] Additive Entropies of Partitions

Adam Paszkiewicz, Tomasz Sobieszek|arXiv (Cornell University)|Feb 21, 2012

Statistical Mechanics and Entropy参考文献 15被引用数 3

ひとこと要約

本稿では、非原子的確率空間上の加法的分割エントロピーを特徴付けるために、任意のこのようなエントロピー関数が、連続的である限り、シャノン型エントロピー項と測度論的補正項に一意に分解されることを証明する。主な結果として、絶対連続な集合関数と分散に類似した項を含む標準的表現が確立され、古典的エントロピー公理が分割に基づく情報測度へと一般化される。

ABSTRACT

We provide, under minimal continuity assumptions, a description of extsl{additive partition entropies}. They are real functions $I$ on the set of finite partitions that are additive on stochastically independent partitions in a given probability space.

研究の動機と目的

• 確率空間の枠組み内で、確率的独立な分割の上での加法性を満たす有限分割上の実数値関数（加法的分割エントロピー）を、連続性および構造的仮定のもとで特徴付けること。
• 確率列に基づく古典的エントロピー公理（例：シャノンの公理）を、確率空間における分割に基づく情報測度へと拡張すること。
• 分割測度のL²距離に関して一様連続である加法的分割エントロピーの正確な関数的形を同定すること。
• そのようなエントロピーを、確率測度に関して絶対連続な符号付き測度を含む基底エントロピー項と補正項に完全に分解すること。
• 既知のエントロピー（例：シャノン、ハートリー、リーニー）が、より広範な加法的分割エントロピーのクラスにどのように特殊ケースとして現れるかを統一的に示す標準的表現を確立すること。

提案手法

• 非原子的確率空間 (Ω, Σ, P) の有限分割上に定義された実数値関数 I を、独立な分割 𝒜 と 𝒟 に対して I(𝒜 ⊗ 𝒟) = I(𝒜) + I(𝒟) を満たすものとして加法的分割エントロピーと定義する。
• 有限分割の空間 𝔸₂ を L² 距離 ρ₂ で装備し、I がこの距離に関して一様連続であるものと仮定する。
• 非原子的確率空間のダーブォー性質を用いて、原子の測度が任意に小さい近似分割列を構成する。
• エントロピー関数 I を二つの成分の和として表現する：Lₘ(𝒜) = ∫ H(𝒜) d𝑚、ここで 𝑚 は P に関して絶対連続な可算加法的符号付き測度であり、βV(𝒜)、ここで V は分散に類似した汎関数である。
• 𝑚(Ω) = 0 の正規化条件下で、この分解が一意になることを確立し、表現が標準的であることを保証する。
• 既知の結果（例：エントロピーが原子の測度にのみ依存する加法的エントロピーは、線形結合としてシャノンエントロピーと均一エントロピーの組み合わせに表せること）を用いて、一般形を導出する。

実験結果

リサーチクエスチョン

• RQ1 分割測度のL²距離に関して連続である加法的分割エントロピーの完全な特徴付けは何か？
• RQ2 加法的分割エントロピーは、基底エントロピー項と符号付き測度を含む補正項にどのように分解できるか？
• RQ3 古典的エントロピー（例：シャノン、ハートリー、リーニー）は、この一般化された加法的分割エントロピーのクラス内でどのように特殊ケースとして現れるか？
• RQ4 非原子的確率空間におけるダーブォー性質が、連続的加法的エントロピーの構成に果たす役割は何か？
• RQ5 加法的分割エントロピーが Lₘ と βV に分解されるとき、その分解が一意となる条件は何か？

主な発見

• 分割の空間（特に ρ₂ に関して一様連続である）で連続な任意の加法的分割エントロピー I は、一意に I = Lₘ + βV に分解可能であり、ここで Lₘ は P に関して絶対連続な可算加法的符号付き測度 𝑚 による H(𝒜) の積分である。
• 𝑚(Ω) = 0 の正規化条件下で、この分解は一意であり、表現に重複がないことを保証する。
• 汎関数 V(𝒜) = ∫[H(𝒜) − ∫H(𝒜) dP]² dP は、期待エントロピーからの逸脱を捉える分散に類似した項であり、βV(𝒜) は原子の測度に依存しないエントロピーの部分を表す。
• I が原子の測度にのみ依存する場合、それは必ず αLₚ + βV の線形結合の形に表され、ここで Lₚ はシャノンエントロピー、V は分散項である。
• 本結果により、古典的公理的特徴付け（例：フェーディのものやシャノンのもの）が、確率空間における分割の文脈に一般化され、より広範な関数的クラスへと拡張されることを示している。
• 本稿では、連続性および加法性の制約の下で、加法的分割エントロピーのクラスがペア (𝑚, β) によって完全に特徴付けられることを確立しており、ここで 𝑚 ∈ 𝒮(P) かつ β ∈ ℝ である。