[논문 리뷰] Capacity Achieving Distributions & Information Lossless Randomized Strategies for Feedback Channels with Memory: The LQG Theory of Directed Information-Part II.

Charalambos D. Charalambous, Christos K. Kourtellaris외 1명|arXiv (Cornell University)|2016. 04. 04.

Wireless Communication Security Techniques참고 문헌 22인용 수 7

한 줄 요약

이 논문은 메모리와 피드백이 있는 시간 변화하는 MIMO 가우시안 선형 채널에 대해 정보 손실이 없는 랜덤 전략을 사용하여 용량 최적화 채널 입력 분포를 도출하는 방법론을 개발한다. LQG 제어 프레임워크를 활용하여 최적 전략을 결정론적 및 랜덤 성분으로 분해함으로써, 채널 출력을 제어하고 새로운 정보를 전송하는 이중 기능을 드러내며, 안정성이나 에르고딕성에 대한 사전 가정 없이도 리카티 행렬 방정식을 통해 피드백 용량을 특성화한다.

ABSTRACT

A methodology is developed to realized optimal channel input conditional distributions, which maximize the finite-time horizon directed information, for channels with memory and feedback, by information lossless randomized strategies. The methodology is applied to general Time-Varying Multiple Input Multiple Output (MIMO) Gaussian Linear Channel Models (G-LCMs) with memory, subject to average transmission cost constraints of quadratic form. The realizations of optimal distributions by randomized strategies are shown to exhibit a decomposion into a deterministic part and a random part. The decomposition reveals the dual role of randomized strategies, to control the channel output process and to transmit new information over the channels. Moreover, a separation principle is shown between the computation of the optimal deterministic part and the random part of the randomized strategies. The dual role of randomized strategies generalizes the Linear-Quadratic-Gaussian (LQG) stochastic optimal control theory to directed information pay-offs. The characterizations of feedback capacity are obtained from the per unit time limits of finite-time horizon directed information, without imposing \'a priori assumptions, such as, stability of channel models or ergodicity of channel input and output processes. For time-invariant MIMO G-LCMs with memory, it is shown that whether feedback increases capacity, is directly related to the channel parameters and the transmission cost function, through the solutions of Riccati matrix equations, and moreover for unstable channels, feedback capacity is non-zero, provided the power exceeds a critical level.

연구 동기 및 목표

• 메모리와 피드백이 있는 MIMO 가우시안 선형 채널에 대한 유한 시간 영역 피드백 용량을 특성화하는 것.
• 지향 정보를 최대화하는 최적의 입력 분포를 실현하는 정보 손실이 없는 랜덤 전략을 개발하는 것.
• 최적 전략에서 결정론적 성분과 랜덤 성분 간의 분리 원칙을 수립하는 것.
• 안정성이나 에르고딕성을 가정하지 않고도 시간 불변 채널의 피드백 용량을 유도하는 것.
• LQG 제어 이론을 통신 시스템의 지향 정보 수익에 일반화하는 것.

제안 방법

• 변분법과 지향 정보 이론을 사용하여 최적 채널 입력 조건부 분포를 유도한다.
• 정보 손실이 없는 랜덤 전략을 적용하여 최적 분포를 실현하고, 이를 결정론적 및 랜덤 부분으로 분해한다.
• LQG 스토크라스틱 제어 프레임워크를 활용하여 채널을 상태공간 역학을 갖는 선형 스토크라스틱 시스템으로 모델링한다.
• 피드백 용량을 특성화하기 위해 리카티 행렬 방정식을 풀며, 특히 무한 시간 영역 근사에서의 해를 고려한다.
• 시간 불변 케이스에서 피드백 용량과 대수 Riccati 방정식의 해 사이의 연결 고리를 수립한다.
• 칼만 필터링과 추정 이론을 사용하여 순차적 전략 설계에서 조건부 기대값과 공분산을 계산한다.

실험 결과

연구 질문

• RQ1 피드백이 있는 메모리가 있는 채널에 대해 랜덤 전략을 사용하여 최적 채널 입력 분포를 어떻게 실현할 수 있는가?
• RQ2 랜덤 전략은 채널 출력을 제어하고 새로운 정보를 전송하는 데 어떤 이중 기능을 수행하는가?
• RQ3 시간 불변 MIMO G-LCM에서 피드백 용량은 채널 파라미터와 전송 비용에 어떻게 의존하는가?
• RQ4 채널 과정의 안정성이나 에르고딕성을 가정하지 않고도 피드백 용량을 특성화할 수 있는가?
• RQ5 무한 시간 영역 설정에서 피드백 용량과 리카티 방정식의 해 사이의 관계는 무엇인가?

주요 결과

• 최적 채널 입력 분포는 정보 손실이 없는 랜덤 전략을 통해 결정론적 및 랜덤 성분으로 분해되어 실현된다.
• 랜덤 전략은 채널 출력 과정을 제어하고 새로운 정보를 전송하는 이중 기능을 수행하며, 이는 LQG 제어를 지향 정보로 일반화한다.
• 분리 원칙이 성립한다: 결정론적 부분은 랜덤 부분과 독립적으로 계산된다.
• 메모리가 있는 시간 불변 MIMO G-LCM에서는 전송 전력이 임계 임계값을 초과할 경우 피드백이 용량을 증가시킨다. 이 임계값은 리카티 방정식 해에 의해 결정된다.
• 무한 시간 영역 LQG 이론에 의해 안정성이 없는 채널에서도 전력이 임계 수준을 초과하면 피드백 용량이 0이 아님을 보여준다.
• 피드백 용량의 특성화에는 입력/출력 과정의 안정성이나 에르고딕성에 대한 사전 가정이 필요하지 않다.