[論文レビュー] On Optimal Causal Coding of Partially Observed Markov Sources in Single and Multi-Terminal Settings

Serdar Yüksel|arXiv (Cornell University)|Oct 22, 2010

Wireless Communication Security Techniques参考文献 38被引用数 4

ひとこと要約

本稿は、一般状態空間を有する部分的に観測可能なマルコフ源における最適因果符号化の構造的結果を、単一およびマルチターミナル設定において確立する。WitsenhausenおよびWalrand-Varaiyaの枠組みを一般状態空間へと拡張した。独立同分布の源に対して、最適分散因果符号化は記憶なしであることを証明し、マルコフ設定における自然な分離仮説に対して反例を提示した。

ABSTRACT

The optimal causal coding of a partially observed Markov process is studied, where the cost to be minimized is a bounded, non-negative, additive, measurable single-letter function of the source and the receiver output. A structural result is obtained extending Witsenhausen's and Walrand-Varaiya's structural results on optimal real-time coders to a partially observed setting. The decentralized (multi-terminal) setup is also considered. For the case where the source is an i.i.d. process, it is shown that the optimal decentralized causal coding of correlated observations problem admits a solution which is memoryless. For Markov sources, a counterexample to a natural separation conjecture is presented.

研究の動機と目的

• 完全に観測可能な状態から部分的に観測可能なマルコフ過程への最適因果符号化に関する構造的結果を、一般状態空間へと拡張すること。
• 部分的観測下、特にフィードバックおよび有限容量チャネルを伴う状況において、分散（マルチターミナル）因果符号化を分析すること。
• 推定と符号化を独立に設計できるという分離原理が、部分的に観測可能なマルコフ設定で成り立つかどうかを調査すること。
• 特にi.i.d.源の場合に最適符号化方策が記憶なしとなる条件を特定すること。
• 非対称情報および遅延フィードバックを伴うチーム意思決定問題における最適方策の構造に関する未解決の問題を解消すること。

提案手法

• 部分的に観測可能なマルコフ源を有する因果符号化問題を形式化し、エンコーダーが状態のノイズの入った観測値を受信し、リアルタイムで量子化を行う。
• 局所的情報と共通情報（フィードバック）を組み合わせた合成量子化方策を導入し、マルコフ決定過程（MDP）フレームワークを用いる。
• チーム意思決定理論を用いて方策を量子化選択方策と量子化行動に分解し、構造的解析を可能にする。
• 動的計画法および十分統計量を用いて、最適方策が過去の量子化出力に基づく状態の事後分布にのみ依存することを示す。
• 最適方策の構造が、共通情報（過去の量子化出力）および局所的観測値にのみ依存することを示し、制限付き方策クラスと同等であることを証明する。
• 時間段階を逆順に帰納的に適用することで、各時刻における最適量子化器が、現在の事後分布および過去の量子化行動にのみ依存することを示す。

実験結果

リサーチクエスチョン

• RQ1 完全に観測可能なシステムで知られていた最適因果符号化器の構造的結果が、一般状態空間を有する部分的に観測可能なマルコフ過程へと拡張可能か？
• RQ2 非対称情報およびフィードバックを伴う分散マルチターミナル設定において、因果符号化方策の最適構造は何か？
• RQ3 源がi.i.d.の場合、部分的観測下でも最適因果符号化方策は記憶なしとなるか？
• RQ4 部分的に観測可能なマルコフ源の因果符号化において、推定と符号化を分離できるという分離原理は成り立つか？
• RQ5 ノイズのある観測値とフィードバックを伴う因果的で分散型の設定において、最適符号化方策の最小十分統計量は何か？

主な発見

• 部分的に観測可能なマルコフ源の最適因果符号化器は、過去の量子化出力と局所的観測値に基づく状態の事後分布にのみ依存する。
• i.i.d.源の場合、最適分散因果符号化方策は記憶なしであり、各時刻における量子化器は、現在の局所的観測値および過去の量子化出力にのみ依存する。
• 因果符号化における自然な分離仮説（推定と符号化を分離可能）がマルコフ源では成り立たないことを示す反例を構築した。
• 最適方策の構造が、共通情報（過去の量子化出力）および局所的観測値にのみ依存する制限付き方策クラスと同等であることを示した。
• 制限付き方策クラスにおける方策空間の有限性のおかげで最適方策の存在が保証され、動的計画法を用いた構成的解法が可能である。
• 各時刻におけるコスト関数が、過去の量子化出力に基づく観測値の事後分布の可測関数として表現可能であることを示し、この統計量の十分性を確認した。