[論文レビュー] Complex-Valued Probability Measures and Their Applications in Information Theory

Siang Cheng, Hejun Xu+1 more|arXiv (Cornell University)|Mar 12, 2026

Statistical Mechanics and Entropy被引用数 0

ひとこと要約

この論文は複素値確率測度を導入し、複素エントロピー、複素発散、複素距離を定義して、それらの連続分布と離散分布に対する性質を分析し、非パラメトリックな二標本検定への適用を示す。

ABSTRACT

This paper introduces a comprehensive framework for complex-valued probability measures and explores their novel applications in information theory and statistical analysis. We define a complex probability measure as a phase-modulated extension of a classical probability measure. Building upon this foundation, we propose three fundamental information-theoretic quantities: complex entropy, which quantifies distribution uniformity through phase coherence; complex divergence, an asymmetric measure of dissimilarity between distributions; and the complex metric, a symmetric distance function satisfying the triangle inequality. We establish these concepts rigorously for both continuous and discrete probability distributions, proving key properties such as boundedness, continuity under total variation convergence, and clear extremal behaviors. A detailed comparative analysis with classical measures (Shannon entropy and Kullback-Leibler divergence) highlights the unique geometric and interpretive advantages of the proposed framework, particularly its sensitivity to distributional shape via a tunable phase parameter. We elucidate a profound formal analogy between the complex entropy integral and Feynman's path integral formulation of quantum mechanics, suggesting a deeper conceptual bridge. Finally, we demonstrate the practical utility of the complex metric through a detailed application in nonparametric two-sample hypothesis testing, outlining the testing procedure, advantages, limitations, and providing a conceptual simulation. This work opens new avenues for analyzing probability distributions through the lens of complex analysis and interference phenomena, with potential impacts across information theory, statistical inference, and machine learning.

研究の動機と目的

• クラシカルな確率を全体位相で変調することにより、複素値測度へ確率論を拡張する。
• 位相整合性を伴う分布の均一性を測る指標として複素エントロピーを定義・分析する。
• 複素発散と複素距離を導入し、それらの性質と古典的測度との関係を確立する。
• 連続分布と離散分布の両方に対して厳密な扱い（有界性・連続性の性質を含む）を提供する。
• 非パラメトリックな二標本仮説検定への応用を通じて実用性を実証する。

提案手法

• 複素確率測度 Q を dQ = e^{iθ} dP と定義する（P は古典的確率測度、θ は実数相）。
• 連続分布に対して CE_β(P) = |∫ p(x) e^{iβ p(x)} dx|、離散分布に対して CE_β(P) = |∑ p(x) e^{iβ p(x)}| を導入する。
• 複素発散と複素距離を定義し、有界性や真の距離の三角不等式などの性質を証明する。
• 平行移動、スケーリング、小β極限、全変動収束における連続性などの主要性質を証明する。
• シャノンエントロピーとKL発散との比較を提供し、量子力学のパス積分との関係を論じる。
• 複素距離を用いた非パラメトリックな二標本仮説検定の枠組みを実演し、手順、利点、制限を詳述する。

実験結果

リサーチクエスチョン

• RQ1 古典的測度の位相変調を介して確率測度を複素平面へ意味的に拡張するにはどうすればよいか。
• RQ2 連続分布と離散分布に対する複素エントロピー、複素発散、複素距離の基礎的性質と解釈はどのようなものか。
• RQ3 幾何学、解釈性、分布形状への感度という点で、複素フレームワークはシャノンエントロピーやKL発散とどう異なるか。
• RQ4 複素距離は非パラメトリックな二標本仮説検定に有効に用いられるか。

主な発見

• CE_β(P) は 0 から 1 の範囲を取り、有限サポート上で一様分布の場合に 1 となる。
• 分散が零に近づくガウス分布の複素エントロピーは 0 に近づき、弱収束の例では極限のモード依存性を示す。
• 二つの分布を混合すると一般に複素エントロピーが低下し、成分の CE_αβ 値に関する明示的な上界が得られる。
• CE_β は平行移動・スケール不変性を持ち、総変動収束に対して連続である。
• CE とフェインマンのパス積分との正式な類推を描き、量子力学的干渉との関連を強調する。
• 複素距離を非パラメトリック二標本検定へ適用する実例を提供し、手順、利点、制限を詳述する。