[論文レビュー] A Sequence of Inequalities among Difference of Symmetric Divergence Measures

Inder J. Taneja|arXiv (Cornell University)|Apr 1, 2011

Mathematical Inequalities and Applications参考文献 8被引用数 3

ひとこと要約

本稿では、よく知られた対数型（例：J-発散、ジェンセン・シャノン）および非対数型（例：ヘルンバーガー、カイ二乗、三角形差別、d-発散）発散を含む2つの1パラメータ族を一般化することで、対称的発散測度の差に関する不等式の系列を確立する。主な貢献は、これらの発散測度の差の間の階層的関係を明らかにする統一的な不等式フレームワークを提示することにある。

ABSTRACT

In this paper we have considered two one parametric generalizations. These two generalizations have in particular the well known measures such as: J-divergence , Jensen-Shannon divergence and arithmetic-geometric mean divergence . These three measures are with logarithmic expressions. Also, we have particular cases the measures such as: Hellinger discrimination , symmetric $\chi ^2$- divergence , and triangular discrimination . These three measures are also well-known in the literature of statistics, and are without logarithmic expressions. Still, we have one more non logarithmic measure as particular case calling it d-divergence . These seven measures bear an interesting inequality. Based on this inequality, we have considered different difference of divergence measures and established a sequence of inequalities among themselves.

研究の動機と目的

• 既存の対称的発散測度を2つの1パラメータ族に統一的かつ一般化すること。
• これらの族内における特別なケースとして、対数型および非対数型の発散測度を特定・分析すること。
• これらの発散測度の差を支配する包括的な不等式フレームワークを確立すること。
• 導出された不等式の系列を通じて、発散測度間の構造的関係を明らかにすること。

提案手法

• 既知の発散を特別なケースとして含む2つの1パラメータ一般化による対称的発散測度の定義。
• 一般化の特定のメンバーの同定：J-発散、ジェンセン・シャノン、算術幾何平均発散（対数型）、およびヘルンバーガー発散、対称的カイ二乗発散、三角形差別、d-発散（非対数型）。
• これらの発散測度のペアの差を関連付けるマスターベース不等式の導出。
• 一般形を用いて、発散測度の差の全族にわたる系統的な比較と順序付けを行う。
• 不等式を適用して、発散測度の差の間の優位性または順序関係を示すこと。

実験結果

リサーチクエスチョン

• RQ1 対数型および非対数型の対称的発散測度を共通のパラメトリック枠組みで統一できるか？
• RQ2 これらの発散測度の差の間にはどのような階層的関係が存在するか？
• RQ3 1つの不等式が、一般化された族全体にわたる複数の発散差の順序付けを支配できるか？
• RQ4 この不等式は、情報理論および統計学における統計的発散の比較にどのような意味を持つのか？

主な発見

• 1つの不等式が、対数型および非対数型の両方の族にわたる対称的発散測度の差の相対的順序を支配する。
• J-発散、ジェンセン・シャノン、および算術幾何平均発散が、1つの一般化族の特別なケースとして示された。
• ヘルンバーガー発散、対称的カイ二乗発散、三角形差別、d-発散が、2番目の一般化族の特別なケースとして同定された。
• 導出された不等式の系列により、特定の発散ペアの差が他の差によって系aticallyに有界されていることが明らかとなり、それらの間の階層が確立された。