[論文レビュー] Shannon entropy for imprecise and under-defined or over-defined information

Vasile Pătrașcu|arXiv (Cornell University)|Jan 1, 2017

Economic and Technological Innovation被引用数 1

ひとこと要約

本稿では、平行移動 followed スケーリング（ホモトピー）という2段階のアフィン正規化手法を提案し、不足定義・過剰定義・曖昧な情報系へのシャノンエントロピーの拡張を図る。確率単体制約（合計 ≠ 1）に違反するベクトルを有効な確率分布に変換することで、一般化されたファジィおよびニュートロソフィック情報モデル（直感的、バイファジィ、曖昧ファジィ集合など）における一貫性のあるエントロピー計算を可能にし、各ケースに対して閉形式のエントロピー式を導出する。

ABSTRACT

Shannon entropy was defined for probability distributions and then its using was expanded to measure the uncertainty of knowledge for systems with complete information. In this article, it is proposed to extend the using of Shannon entropy to under-defined or over-defined information systems. To be able to use Shannon entropy, the information is normalized by an affine transformation. The construction of affine transformation is done in two stages: one for homothety and another for translation. Moreover, the case of information with a certain degree of imprecision was included in this approach. Besides, the article shows the using of Shannon entropy for some particular cases such as: neutrosophic information both in the trivalent and bivalent case, bifuzzy information, intuitionistic fuzzy information, imprecise fuzzy information, and fuzzy partitions.

研究の動機と目的

• 標準的な確率分布を超えて、不完全・不整合・曖昧な情報を持つシステムへのシャノンエントロピーの拡張を図ること。
• 成分の合計が0に近い場合に生じる従来の正規化（例：分母が小さいことによる不安定性）を解消すること。
• ニュートロソフィック・直感的・バイファジィ集合を含む一般化ファジィモデルにおける不確実性の統一的フレームワークを提供すること。
• エントロピー値が[0,1]の範囲に収まり、同等の情報表現間で不確実性が等価であることを保証すること。
• 明示的な曖昧さパラメータを備えたファジィ分割および曖昧ファジィ集合におけるエントロピー計算を可能にすること。

提案手法

• 2段階のアフィン変換を提案：まず、不足定義または曖昧なベクトルを過剰定義状態に変換する平行移動を行い、次に確率単体に正規化するホモトピー（スケーリング）を適用する。
• 元のベクトルとn次元および(n+1)次元空間における確率単体の頂点との間の距離を保つ基準を用いて、平行移動パラメータϑを導出する。
• ϑ = (δ² + nσ²)¹ᐟ² − δ / n の式を用い、ここでδは定義度インデックス、σは曖昧さパラメータである。この式により、平行移動後のベクトルの合計が1以上になるように保証する。
• ホモトピー ˆpᵢ = pᵢ / Σpᵢ を適用して、平行移動後のベクトルを有効な確率分布に正規化する。
• それぞれの一般化モデル（ニュートロソフィック、直感的、バイファジィなど）に対して、その固有のパラメータに正規化変換を適用し、具体的なエントロピー式を導出する。
• 結果として得られる正規化済みファジィ度が ˆμ + ˆν = 1 を満たし、エントロピー値が既知のエントロピー原理と整合することを示すことにより、手法の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 成分の合計が1に等しくない（不足定義・過剰定義）情報系において、シャノンエントロピーをどのように意味的に拡張できるか？
• RQ2 確率単体制約に違反するベクトルを正規化する際、不確実性の等価性を保つ変換は何か？
• RQ3 ニュートロソフィックやファジィ集合における曖昧さの度合い（例：曖昧さパラメータ）を、不確実性測定の歪みを生じさせずに正規化プロセスに組み込む方法は？
• RQ4 単一のアフィン変換フレームワークで、多様なファジィおよびニュートロソフィック情報モデルにおけるエントロピー計算を統一的に可能にするか？
• RQ5 この正規化下で、直感的ファジィ集合・バイファジィ集合・曖昧ファジィ集合の閉形式エントロピー表現は何か？

主な発見

• 提案されたアフィン正規化手法は、平行移動とホモトピーの組み合わせにより、不足定義・過剰定義情報系へのシャノンエントロピーの拡張に成功した。
• スケーリングの前にベクトルを過剰定義状態に平行移動することで、分母が小さいことによる不安定性を回避した。
• ニュートロソフィック情報の場合、2値ケースでは ˆμ + ˆν = 1 を満たす正規化済みファジィペア (ˆμ, ˆν) が得られ、標準的エントロピー計算が可能になる。
• 直感的ファジィケースでは、正規化度は ˆμ = (μ + π)/(1 + π) および ˆν = (ν + π)/(1 + π) で表され、π = 1 − μ − ν である。
• 曖昧ファジィ集合の場合は、曖昧さパラメータσを用いて h = 2σ/√2 の式でエントロピー式を構築し、明確なエントロピー表現が得られる。
• ファジィ分割へ一般化する場合、2つの最大の所属度値を用いて代表的なファジィペアを定義し、2値エントロピー式が得られる。