[論文レビュー] Towards the full information chain theory: answer depth and source models

Eugene Perevalov, David Grace|arXiv (Cornell University)|Dec 12, 2012

Topic Modeling参考文献 5被引用数 4

ひとこと要約

本稿では、等方的知識構造の下で、意思決定文脈における情報源からの応答の正確性を定量化するための答えの深さ関数を導入する。主な貢献は、答えの深さと情報源の能力を結びつける形式的枠組みを提供し、古典的情報理論が量にのみ焦点を当てるのとは異なり、情報取得の統一的理論を拡張することにある。

ABSTRACT

A problem of optimal information acquisition for its use in general decision making problems is considered. This motivates the need for developing quantitative measures of information sources' capabilities for supplying accurate information depending on the particular content of the latter. A companion article developed the notion of a question difficulty functional for questions concerning input data for a decision making problem. Here, answers which an information source may provide in response to such questions are considered. In particular, a real valued answer depth functional measuring the degree of accuracy of such answers is introduced and its overall form is derived under the assumption of isotropic knowledge structure of the information source. Additionally, information source models that relate answer depth to question difficulty are discussed. It turns out to be possible to introduce a notion of an information source capacity as the highest value of the answer depth the source is capable of providing.

研究の動機と目的

• 意思決定における情報取得の定量的枠組みを構築し、情報の正確性と関連性に関する統一理論の欠如に対処する。
• 答えの深さという概念を、質問の難易度に類似した応答の正確性の尺度として形式化する。
• 答えの深さと質問の難易度の関係をモデル化し、可能な答えの深さの最大値としての情報源の能力という概念を導入する。
• 古典的情報理論が量にのみ焦点を当てるのとは異なり、情報取得・伝送・利用を統合する情報連鎖理論の基盤を築く。
• 情報源の信頼性と正確な答えを供給する能力に基づいて、情報源の評価と比較の理論的基盤を提供する。

提案手法

• 答えの深さ関数を、情報源が応答を生成するために「行う仕事」の実数値測度として導入し、値が大きいほど正確性が高いことを示す。
• 等方的知識構造の仮定の下で、答えの深さ関数の一般形を導出する。これは質問の難易度関数の形と類似している。
• 情報源モデルを、質問の難易度から達成可能な答えの深さへの関数として定義し、情報源の知識の強さを反映する。
• 答えの深さの上限としての情報源の能力という概念を導入し、チャネル容量ではなく擬似エネルギー容量として解釈する。
• 実データに適合させるために修正された線形モデルを用い、難易度、深さ、および擬似温度などのパラメータを推定する。
• 幾何学的および関数解析的手法を用いて、知識構造（非等方的ケースでは対称テンソルを介して）と質問・応答ペアの挙動の関係を関係づける。

実験結果

リサーチクエスチョン

• RQ1 情報源の知識構造を反映する方法で、意思決定文脈における情報源が提供する応答の正確性を定量的に測定する方法は何か？
• RQ2 答えの深さと質問の難易度の間にはどのような関数的関係があり、異なる情報源に対してどのようにモデル化できるか？
• RQ3 情報源の最大能力（能力）は、達成可能な答えの深さの観点からどのように定義され、推定できるか？
• RQ4 等方的知識構造と非等方的知識構造の違いが、答えの深さ関数および質問の難易度関数の形に与える影響は何か？
• RQ5 質問・応答ペアに関する実データを用いて、擬似温度や誤差確率を含む情報源モデルのパラメータをどのように推定できるか？

主な発見

• 等方的知識構造の仮定の下で、答えの深さ関数が形式的に導出され、質問の難易度関数と対称的な関係にあることが示された。
• 情報源1について、フィットしたモデルでは深さパラメータ b = 0.77 が得られ、合計誤差の和 ∑zi = 0.09 となった。これはサンプル質問に対する高い正確性を示している。
• 情報源2について、モデルでは b = 0.74 および ∑zi = 0.18 が得られ、情報源1と比較して正確性が低く、誤差率も高いことが示唆された。
• 両情報源の擬似温度関数は非単調な挙動を示し、特定の質問（例：質問5）では情報源2が情報源1を上回っていた。これは質問の難易度が文脈依存であることを示している。
• 情報源の能力は、答えの深さの上限として特定され、情報源が行える最大の「仕事」を表すが、古典的チャネル容量とは異なる。
• 実験的結果から、答えの深さが質問の難易度の関数であることが確認され、U、Ys、誤差確率などの測定可能なパラメータを用いた修正線形フィッティングにより情報源モデルを推定できることが示された。