[論文レビュー] Capacity Achieving Distributions & Information Lossless Randomized Strategies for Feedback Channels with Memory: The LQG Theory of Directed Information-Part II.

Charalambos D. Charalambous, Christos K. Kourtellaris+1 more|arXiv (Cornell University)|Apr 4, 2016

Wireless Communication Security Techniques参考文献 22被引用数 7

ひとこと要約

本稿では、記憶付きで時間変動するMIMOガウス線形チャネルとフィードバックを備えた状況において、情報損失のない確率的戦略を用いて、容量最適化の入力分布を達成するための手法を開発する。LQG制御フレームワークを活用することで、最適戦略を決定論的および確率的成分に分解し、チャネル出力を制御するとともに新たな情報を伝送する二重の役割を明らかにした。フィードバック容量は、安定性やエルゴード性に関する事前仮定を必要とせず、リカッチ方程式を用いて特徴づけられる。

ABSTRACT

A methodology is developed to realized optimal channel input conditional distributions, which maximize the finite-time horizon directed information, for channels with memory and feedback, by information lossless randomized strategies. The methodology is applied to general Time-Varying Multiple Input Multiple Output (MIMO) Gaussian Linear Channel Models (G-LCMs) with memory, subject to average transmission cost constraints of quadratic form. The realizations of optimal distributions by randomized strategies are shown to exhibit a decomposion into a deterministic part and a random part. The decomposition reveals the dual role of randomized strategies, to control the channel output process and to transmit new information over the channels. Moreover, a separation principle is shown between the computation of the optimal deterministic part and the random part of the randomized strategies. The dual role of randomized strategies generalizes the Linear-Quadratic-Gaussian (LQG) stochastic optimal control theory to directed information pay-offs. The characterizations of feedback capacity are obtained from the per unit time limits of finite-time horizon directed information, without imposing \'a priori assumptions, such as, stability of channel models or ergodicity of channel input and output processes. For time-invariant MIMO G-LCMs with memory, it is shown that whether feedback increases capacity, is directly related to the channel parameters and the transmission cost function, through the solutions of Riccati matrix equations, and moreover for unstable channels, feedback capacity is non-zero, provided the power exceeds a critical level.

研究の動機と目的

• 記憶付きでフィードバックを有するMIMOガウス線形チャネルの有限時間ホライズンにおけるフィードバック容量を特徴づけること。
• 指向情報の最大化を実現する最適入力分布を実現する情報損失のない確率的戦略を開発すること。
• 最適戦略における決定論的および確率的成分の間の分離原理を確立すること。
• 安定性やエルゴード性の仮定をせず、時間不変チャネルにおけるフィードバック容量を導出すること。
• LQG制御理論を通信システムにおける指向情報報酬に一般化すること。

提案手法

• 変分法と指向情報理論を用いて、最適チャネル入力の条件付き分布を導出する。
• 情報損失のない確率的戦略を適用し、最適分布を決定論的および確率的部品に分解する。
• LQG確率的制御フレームワークを活用して、状態空間ダイナミクスを有する線形確率的システムとしてチャネルをモデル化する。
• リカッチ行列方程式を解き、特に無限時間ホライズン極限においてフィードバック容量を特徴づける。
• 時間不変ケースにおいて、フィードバック容量と代数的リカッチ方程式の解との関係を確立する。
• カルマンフィルタリングと推定理論を用いて、再帰的戦略設計における条件付き期待値および共分散を計算する。

実験結果

リサーチクエスチョン

• RQ1 記憶付きフィードバックチャネルに対して、確率的戦略を用いて最適チャネル入力分布をどのように実現できるか。
• RQ2 確率的戦略がチャネル出力の制御と新規情報の伝送という二重の役割を果たす仕組みは何か。
• RQ3 時間不変MIMO G-LCMにおいて、フィードバック容量はチャネルパラメータと伝送コストにどのように依存するか。
• RQ4 チャネルプロセスの安定性やエルゴード性に関する仮定をせず、フィードバック容量を特徴づけられるか。
• RQ5 無限時間ホライズン設定において、フィードバック容量とリカッチ方程式の解との関係は何か。

主な発見

• 最適チャネル入力分布は、情報損失のない確率的戦略によって実現され、その戦略は決定論的および確率的成分に分解される。
• 確率的戦略は二重の役割を果たす：チャネル出力プロセスの制御と新規情報の伝送。これは、LQG制御を指向情報に一般化したものである。
• 分離原理が成立する：決定論的部品は確率的部品とは独立に計算可能である。
• 記憶付き時間不変MIMO G-LCMでは、伝送パワーが臨界閾値を超えるとフィードバックにより容量が向上する。この臨界閾値はリカッチ方程式の解によって決定される。
• 無限時間ホライズンLQG理論を用いて、不安定なチャネルに対してもパワーが臨界レベルを超えるとフィードバック容量が非ゼロであることが示された。
• フィードバック容量の特徴づけには、入出力プロセスの安定性やエルゴード性に関する事前仮定を必要としない。