[논문 리뷰] On Real Time Coding with Limited Lookahead

Himanshu Asnani, Tsachy Weissman|arXiv (Cornell University)|2011. 05. 29.

Wireless Communication Security Techniques참고 문헌 14인용 수 5

한 줄 요약

이 논문은 평균 비용 기준 하에 제한된 레이트러프를 갖는 실시간 소스-채널 부호화 문제를 제어된 마르코프 결정 과정으로 공식화하며, 유한한 레이트러프 d에 대해 최소 달성 가능한 기대 심벌 오차인 D(d)를 계산하기 위해 평균 비용 최적성 방정식(ACOE)을 유도한다. 유한한 d > 0일 때 특정 소스-채널 파rameter 하에서 심벌 단위 부호화가 최적성이 아님을 보이며, 하밍 거리 하에서 이진 베르누이 소스와 이진 대칭 채널에 대해 정확한 경계를 제공한다.

ABSTRACT

A real time coding system with lookahead consists of a memoryless source, a memoryless channel, an encoder, which encodes the source symbols sequentially with knowledge of future source symbols upto a fixed finite lookahead, d, with or without feedback of the past channel output symbols and a decoder, which sequentially constructs the source symbols using the channel output. The objective is to minimize the expected per-symbol distortion. For a fixed finite lookahead d>=1 we invoke the theory of controlled markov chains to obtain an average cost optimality equation (ACOE), the solution of which, denoted by D(d), is the minimum expected per-symbol distortion. With increasing d, D(d) bridges the gap between causal encoding, d=0, where symbol by symbol encoding-decoding is optimal and the infinite lookahead case, d=\infty, where Shannon Theoretic arguments show that separation is optimal. We extend the analysis to a system with finite state decoders, with or without noise-free feedback. For a Bernoulli source and binary symmetric channel, under hamming loss, we compute the optimal distortion for various source and channel parameters, and thus obtain computable bounds on D(d). We also identify regions of source and channel parameters where symbol by symbol encoding-decoding is suboptimal. Finally, we demonstrate the wide applicability of our approach by applying it in additional coding scenarios, such as the case where the sequential decoder can take cost constrained actions affecting the quality or availability of side information about the source.

연구 동기 및 목표

• 유한한 레이트러프를 갖는 실시간 소스-채널 부호화에서 최소 달성 가능한 기대 심벌 오차를 특성화하는 것.
• 마르코프 결정 이론을 통해 인과적 부호화(d=0)와 분리 최적의 무한 레이트러프(d=∞) 사이의 성능 격차를 메우는 것.
• 유한한 레이트러프 d ≥ 1에서 심벌 단위 부호화가 최적성이 아님을 보일 수 있는 조건을 규명하는 것.
• 유한 상태 디코더 및 비용 제약이 있는 사이드 인포메이션 확보 시스템으로 프레임워크를 확장하는 것.
• 비디오 스트리밍 및 지연 제약이 있는 실시간 통신과 같은 실용적 시스템에서 D(d)에 대한 계산 가능한 경계를 제공하는 것.

제안 방법

• 실시간 부호화 문제를 평균 비용 기준을 갖는 이산 시간 제어 마르코프 체인으로 모델링한다.
• 해결책이 주어진 레이트러프 d에 대해 최적의 오차 D(d)를 제공하는 평균 비용 최적성 방정식(ACOE)을 도출한다.
• 사이드 인포메이션 확보 설정에서 제약된 행동을 다루기 위해 라그랑주 이완과 안장점 분석을 적용한다.
• 특정 사례에서 ACOE를 수치적으로 해결하기 위해 값 반복 및 정책 반복 기법을 사용한다.
• 레이트러프 버퍼를 상태 공간의 일부로 인코딩하여 문제를 마르코프 소스 프레임워크로 변환한다.
• 디코더의 피드백 및 메모리 제약을 고려하며, 믿음 상태를 갖는 유한 상태 마르코프 체인으로 모델링한다.

실험 결과

연구 질문

• RQ1 유한한 레이트러프 d를 갖는 실시간 소스-채널 부호화에서 주어진 d에 대해 최소 달성 가능한 기대 심벌 오차 D(d)는 무엇인가?
• RQ2 레이트러프 d ≥ 1이 존재할 때 어떤 소스 및 채널 파rameter 하에서 심벌 단위 부호화가 최적성이 아닐가?
• RQ3 레이트러프 d가 증가함에 따라 오차 D(d)는 어떻게 변화하며, d=∞에서의 분리 기반 한계에 얼마나 가까워지는가?
• RQ4 디코더가 소스에 대한 사이드 인포메이션에 접근하기 위해 비용 제약이 있는 행동을 취해야 하는 시스템으로 프레임워크를 확장할 수 있는가?
• RQ5 제약이 있는 마르코프 결정 과정 설정에서 정적 랜덤 정책이 최적의 오차를 달성할 수 있는 조건은 무엇인가?

주요 결과

• 하밍 거리 하에서 이진 베르누이 소스와 이진 대칭 채널에 대해, 다양한 d와 디코더의 메모리 크기에 대해 D(d)의 정확한 값을 계산한다.
• 심벌 단위 부호화가 d ≥ 1에서 엄격히 최적성이 아님을 보이는 소스 및 채널 파rameter 공간의 특정 영역을 규명하며, 레이트러프의 이점을 정량적으로 입증한다.
• 최소 오차 D(d)는 d가 증가함에 따라 단조 감소하며, d → ∞일 때 고전적인 분리 기반 오차로 수렴한다.
• 유한 상태 디코더의 경우, 디코더에서 전체 메모리가 확보되지 않더라도 D(d)에 대한 계산 가능한 상한 경계를 제공한다.
• 사이드 인포메이션 판매 기계 모델로의 확장에 성공적으로 적용되었으며, 여기서 인코더 행동이 사이드 인포메이션의 비용과 품질에 영향을 주며, 정적 랜덤 정책이 최적의 오차를 달성한다.
• ACOE 해법은 D(d)를 계산하기 위한 체계적이고 해석 가능한 방법을 제공하며, 다양한 실시간 통신 시나리오에서의 성능 평가를 가능하게 한다.