[論文レビュー] Information loss in an optimal maximum likelihood decoding

Inés Samengo|ArXiv.org|Oct 26, 2001

Neural dynamics and brain function参考文献 15被引用数 5

ひとこと要約

この論文は、最尤推定によるデコード過程を、連合刺激・応答確率の人工的歪みとしてモデル化することで、最適な最尤デコードにおける情報損失を定量化している。小さな歪みの下では、情報損失が歪みの大きさの二乗に比例し、真の分布と歪んだ分布の間のカルバック・ライブラー発散によって損失が定量化され、各デコードクラス内での応答尤度が比例する場合に正確なデコードが達成されることを示している。

ABSTRACT

The mutual information between a set of stimuli and the elicited neural responses is compared to the corresponding decoded information. The decoding procedure is presented as an artificial distortion of the joint probabilities between stimuli and responses. The information loss is quantified. Whenever the probabilities are only slightly distorted, the information loss is shown to be quadratic in the distortion

研究の動機と目的

• 神経応答を用いた刺激の推定に最尤推定を用いる際の情報損失を形式的に定量化すること。
• デコード過程を真の連合確率分布 P(r,s) の人工的歪みとしてモデル化すること。
• 真の相互情報量 I とデコードされた相互情報量 ID の差を表す一般式を導出すること。
• 小さな歪みの極限において情報損失が最小またはゼロとなる条件を特定すること。
• 神経符号化研究におけるデコード情報の信頼性を評価するためのフレームワークを提供すること。

提案手法

• デコード過程を応答 r から予測された刺激 s′ への変換としてモデル化し、応答空間 R をクラス C(s′) に分割する。
• デコードされた情報 ID を、歪められた連合確率分布を用いた、刺激 S とデコードされた応答 S′ 間の相互情報量として定義する。
• I − ID を真の分布と歪んだ分布の間のカルバック・ライブラー発散として表現する。
• 歪み Δ(r,s) と Δ(r) を変数として、情報差の2次テイラー展開を実行し、二乗近似を得る。
• 各デコードクラス内での真の応答尤度がその平均とどれほど逸脱しているかを測る誤差関数 E(s′,s) を導出する。
• 各クラス C(s′) 内で、すべての s に対して P(r|s)/P(r) が r に依存しない定数である場合に、正確なデコード（I = ID）が達成されることを確立する。

実験結果

リサーチクエスチョン

• RQ1 神経応答から刺激を推定するために最尤デコードを用いる際、どの程度の情報が失われるのか？
• RQ2 デコードされた情報 ID が真の相互情報量 I に等しくなる条件は何か？
• RQ3 応答確率における小さな歪みの下で、情報損失 I − ID の関数的形はどのように表されるか？
• RQ4 各デコードクラス内での応答分布の構造は、情報損失の大きさにどのように影響するか？
• RQ5 連合確率の摂動展開を用いて、情報損失を解析的に定量化できるか？

主な発見

• 情報損失 I − ID は常に非負であり、真の分布と歪んだ分布の間のカルバック・ライブラー発散に等しい。
• 小さな歪みの下では、情報損失が歪みパラメータ Δ(r,s) と Δ(r) の二乗に比例することが、2次テイラー展開により示された。
• 各デコードクラス C(s′) 内で、すべての s に対して P(r|s)/P(r) が r に依存せず一定である場合に、正確なデコード（I = ID）が達成される。これは尤度が比例することを意味する。
• 情報損失の大きさは、関数 E(s′,s) によって決定され、この関数は C(s′) 上での真の P(r,s) と P(r) がその一様平均からどれほど逸脱しているかを測定する。
• 導出された情報損失の式は一般性を持ち、短い時間窓や特定の応答分布の仮定に依存しない。
• このフレームワークにより、デコードが完全に行われても、どの程度の情報が犠牲にされているかを体系的に評価できる。