[논문 리뷰] Joint Source-Channel Coding Revisited: Information-Spectrum Approach

Te Sun Han|ArXiv.org|2007. 12. 18.

Wireless Communication Security Techniques참고 문헌 12인용 수 8

한 줄 요약

이 논문은 정보스펙트럼 접근법을 사용하여 공동 소스-채널 부호화를 재검토하며, 일반 소스 및 채널을 통해 신뢰할 수 있는 전송을 위한 날카운 필수 및 충분 조건을 확립한다. 반대 조건 간의 이중성과 함께, 반전성 조건이 성립하는 경우 일반화된 분리 원칙이 성립하며, 기존의 분리 정리가 이 성질을 만족하는 소스 및 채널에 대해 성립함을 증명한다.

ABSTRACT

Given a general source with countably infinite source alphabet and a general channel with arbitrary abstract channel input/channel output alphabets, we study the joint source-channel coding problem from the information-spectrum point of view. First, we generalize Feinstein's lemma (direct part) and Verdu-Han's lemma (converse part) so as to be applicable to the general joint source-channel coding problem. Based on these lemmas, we establish a sufficient condition as well as a necessary condition for the source to be reliably transmissible over the channel with asymptotically vanishing probability of error. It is shown that our sufficient condition is equivalent to the sufficient condition derived by Vembu, Verdu and Steinberg, whereas our necessary condition is shown to be stronger than or equivalent to the necessary condition derived by them. It turns out, as a direct consequence, that separation principle in a relevantly generalized sense holds for a wide class of sources and channels, as was shown in a quite dfifferent manner by Vembu, Verdu and Steinberg. It should also be remarked that a nice duality is found between our necessary and sufficient conditions, whereas we cannot fully enjoy such a duality between the necessary condition and the sufficient condition by Vembu, Verdu and Steinberg. In addition, we demonstrate a sufficient condition as well as a necessary condition for the epsilon-transmissibility. Finally, the separation theorem of the traditional standard form is shown to hold for the class of sources and channels that satisfy the semi-strong converse property.

연구 동기 및 목표

• 정보스펙트럼 프레임워크에서 피네이젠 및 버두-한의 보조정리를 공동 소스-채널 부호화에 적용하기 위해 일반화한다.
• 일반 소스를 일반 채널을 통해 전송할 수 있는 신뢰할 수 있는 조건을 위한 날카운 필수 및 충분 조건을 유도한다.
• 필수 조건과 충분 조건 간의 이중성 관계를 조사하고, Vembu, 버두, 스텐버그의 이전 연구와 비교한다.
• 기존의 분리 정리가 일반화된 설정에서 어떤 조건에서 성립하는지 규명한다.
• 반전성 조건이 소스 및 채널 부호화에서 분리 원칙의 타당성을 보장하는 데 수행하는 역할을 기술한다.

제안 방법

• 정보스펙트럼 프레임워크에서 일반 소스 및 채널에 적용 가능한 피네이젠의 보조정리(직접 부분)와 버두-한의 보조정리(역방향 부분)를 일반화한다.
• 점근적 행동을 분석하기 위해 정보스펙트럼 엔트로피 비율 $\underline{H}({\bf V})$ 와 정보스펙트럼 상호정보량 $\underline{I}({\bf X};{\bf Y})$ 를 정의한다.
• 정보스펙트럼에서 반전성 조건의 개념을 도입하며, 이는 발산하는 부분수열에 대한 극한을 통해 정의된다.
• 반전성 조건과 소스 및 채널 부호화에서 낙관적 및 비관적 부호화 비율 간의 등가성을 수립한다.
• 이 보조정리와 정의를 활용하여 $\varepsilon$-전송 가능성 및 신뢰할 수 있는 전송을 위한 필수 및 충분 조건을 도출한다.
• 소스 또는 채널 중 하나가 반전성 조건을 만족할 경우, 기존의 분리 정리가 $R_f({\bf V}) < C({\bf W}) \Rightarrow$ 전송 가능성 및 그 역으로 성립함을 증명한다.

실험 결과

연구 질문

• RQ1 정보스펙트럼 프레임워크에서 일반 소스가 일반 채널을 통해 어떤 조건에서 신뢰할 수 있게 전송될 수 있는가?
• RQ2 전송 가능성에 대한 필수 조건과 충분 조건 간의 관계에서 이중성은 어떻게 나타나는가?
• RQ3 일반 소스 및 채널에 대해 분리 원칙은 어떤 의미에서 성립하며, 어떤 조건에서 고전적 분리 정리와 동치가 되는가?
• RQ4 반전성 조건이 소스 및 채널 부호화에서 어떤 운영적 의미를 가지는가?
• RQ5 제안된 프레임워크는 Vembu, 버두, 스텐버그의 연구에서 확립된 조건과 어떻게 유사하거나 다름을 보이는가?

주요 결과

• 이 논문에서 제안한 충분 조건은 Vembu, 버두, 스텐버그가 유도한 충분 조건과 동치이며, 날카운 성질을 확인한다.
• 이 논문에서 도출한 필수 조건은 Vembu, 버두, 스텐버그의 연구에서의 필수 조건보다 엄격히 강하거나 동일하여, 더 향상된 특성 기술을 의미한다.
• 필수 조건과 충분 조건 간의 이중성이 확립되었으며, 이는 Vembu, 버두, 스텐버그의 이전 연구에서는 완전히 반영되지 않았다.
• 소스 또는 채널 중 하나가 반전성 조건을 만족할 경우, 기존의 분리 정리는 표준 형태로 성립한다.
• 반전성 조건은 고정 길이 소스 부호화 비율의 하한($R_f({\bf V})$)과 그 하한의 하한($\underline{R}_f({\bf V})$) 간의 등가성과 동치이며, 채널 용량의 경우에도 동일하게 적용된다.
• 혼합 소스 및 채널(예: 무-memory 소스/채널의 볼록 조합)은 정보 안정성 또는 강력한 반전성 조건 없이도 반전성 조건을 만족할 수 있으며, 이로 인해 분리가 가능해진다.