[논문 리뷰] On Delayed Sequential Coding of Correlated Sources

Nan Ma, Ye Wang외 1명|ArXiv.org|2007. 01. 30.

Wireless Communication Security Techniques참고 문헌 16인용 수 6

한 줄 요약

이 논문은 프레임 지연이 있는 연관된 소스의 지연된 순차적 코딩에서의 비율-왜곡 트레이드오프를 단일 문자 정보이론적 특성으로 기술한다. 특히 비디오 코딩에 응용된다. 특정 조건 하에서, 한 프레임 지연된 비인과적 복호화를 수행하는 인과적 인코딩이 연합 코딩과 동일한 합산 비율-평균제곱오차 성능을 달성함을 보여주며, 이는 조건부로 정의된 정규분포 마르코프 비디오 소스에서 비록 최소한의 복호화 지연이라도 상당한 성능 향상을 가져올 수 있음을 시사한다.

ABSTRACT

Motivated by video coding applications, the problem of sequential coding of correlated sources with encoding and/or decoding frame-delays is studied. The fundamental tradeoffs between individual frame rates, individual frame distortions, and encoding/decoding frame-delays are derived in terms of a single-letter information-theoretic characterization of the rate-distortion region for general inter-frame source correlations and certain types of potentially frame specific and coupled single-letter fidelity criteria. The sum-rate-distortion region is characterized in terms of generalized directed information measures highlighting their role in delayed sequential source coding problems. For video sources which are spatially stationary memoryless and temporally Gauss-Markov, MSE frame distortions, and a sum-rate constraint, our results expose the optimality of idealized differential predictive coding among all causal sequential coders, when the encoder uses a positive rate to describe each frame. Somewhat surprisingly, causal sequential encoding with one-frame-delayed noncausal sequential decoding can exactly match the sum-rate-MSE performance of joint coding for all nontrivial MSE-tuples satisfying certain positive semi-definiteness conditions. Thus, even a single frame-delay holds potential for yielding significant performance improvements. Generalizations to higher order Markov sources are also presented and discussed. A rate-distortion performance equivalence between, causal sequential encoding with delayed noncausal sequential decoding, and, delayed noncausal sequential encoding with causal sequential decoding, is also established.

연구 동기 및 목표

• 지연된 인코딩 및/또는 복호화가 수반되는 연관된 소스의 순차적 코딩에 대한 비율-왜곡 영역의 단일 문자 특성화를 도출하는 것.
• 비디오 코딩 응용에서 제한된 인코딩 및 복호화 지연을 통해 달성 가능한 성능 향상을 정량화하는 것.
• 다양한 지연 구성 조건 하에서 인과적, 비인과적, 연합 코딩 시스템의 기본 성능 한계를 비교하는 것.
• 지연된 복호화가 연합 코딩 성능을 따라잡거나 근접시킬 수 있는 조건을 설정하는 것.
• 결과를 고차원 마르코프 소스 및 결합된 왜곡 기준으로 일반화하는 것.

제안 방법

• 지연된 순차적 코딩 시스템에서의 합산 비율-왜곡 영역을 특성화하기 위해 일반화된 방향 정보 측정법을 사용한다.
• 보조 랜덤 변수와 마르코프 체인 제약 조건을 포함한 정보이론적 도구를 적용하여 단일 문자 표현식을 유도한다.
• 보조 랜덤 변수의 크기를 제한하기 위해 기수의 경계 설정 기법을 활용하여 유한 차원 특성화를 가능하게 한다.
• 연속성 추론과 부분수열 수렴을 활용하여 극한을 취하고 최적 분포의 존재성을 확립한다.
• 인과적 및 비인과적 인코딩/복호화 시나리오를 모두 고려하며, C–NC, NC–C, NC–NC 및 연합 코딩을 특수한 경우로 포함한다.
• 일반적 프레임워크를 공간적으로 정적이고 메모리가 없는 소스, 시간적으로 가우스–마르코프 소스, 평균제곱오차 왜곡 및 합산 비율 제약 조건에 특화한다.

실험 결과

연구 질문

• RQ1 지연된 인코딩 및/또는 복호화가 수반될 경우, 연관된 소스의 순차적 코딩에서의 기본 비율-왜곡 트레이드오프는 무엇인가?
• RQ2 지연된 비인과적 복호화를 수행하는 인과적 인코더가 비디오 소스에서 연합 코딩 성능을 동일하게 달성할 수 있는가?
• RQ3 일반화된 방향 정보 측정법은 지연된 순차적 코딩에서의 합산 비율-왜곡 영역을 어떻게 특성화하는가?
• RQ4 강한 시간적 상관관계를 가진 비디오 코딩에서 한 프레임의 복호화 지연을 도입할 경우 성능 향상은 어느 정도인가?
• RQ5 비율-왜곡 성능 측면에서 인과적 인코딩에 지연된 비인과적 복호화와 비인과적 인코딩에 인과적 복호화 사이에 등가성이 존재하는가?

주요 결과

• 평균제곱오차 왜곡 및 합산 비율 제약 조건을 갖는 공간적으로 정적이고 메모리가 없는 소스, 시간적으로 가우스–마르코프 비디오 소스에서, 한 프레임 지연된 비인과적 복호화를 수행하는 인과적 순차적 인코딩은 특정한 정규성 조건을 만족하는 평균제곱오차 투플이 존재할 경우 연합 코딩과 동일한 합산 비율-평균제곱오차 성능을 달성한다.
• 각 프레임에 대해 양의 비율을 사용하는 경우, 이상화된 차등 예측 코딩(DPCM)의 최적성이 모든 인과적 순차 코더들 중에서 확립된다.
• 매우 높은 상관관계를 가진 비디오 소스에서 중간~저비율 영역에서 단 한 프레임의 복호화 지연만으로도 상당한 성능 향상이 이루어질 수 있다.
• 합산 비율-왜곡 영역에서 인과적 인코딩에 지연된 비인과적 복호화와 비인과적 인코딩에 인과적 복호화 사이의 성능 등가성이 공식적으로 확립된다.
• 유도된 비율-왜곡 영역은 일반화된 방향 정보 측정법을 사용하여 특성화되며, 이는 순차적 코딩에서 지연된 정보 흐름을 포착하는 데 핵심적인 역할을 한다.
• 최적 해에서 보조 랜덤 변수의 기수는 경계가 설정되어 있어 비율-왜곡 영역의 유한 차원 특성화가 가능해진다.