[논문 리뷰] Nested Polar Codes Achieve the Shannon Rate-Distortion Function and the Shannon Capacity

Aria G. Sahebi, S. Sandeep Pradhan|arXiv (Cornell University)|2014. 01. 25.

Error Correcting Code Techniques참고 문헌 3인용 수 3

한 줄 요약

이 논문은 유한 아벨 군 위에서의 군 구조와 채널 분할을 활용하여 임의의 이산 메모리가 없는 채널에 대해 샤논 용량을 달성하고, 임의의 이산 메모리가 없는 소스에 대해 샤논 비용-손실 함수를 달성하는 내재된 폴라 코드가 있음을 보여준다. 이 접근법은 아리칸의 원래 폴라 코드를 비이진 알파벳으로 일반화하는 내재된 구조를 사용하여 이진 및 비이진 알파벳 모두에서 최적 성능을 달성한다.

ABSTRACT

It is shown that nested polar codes achieve the Shannon rate-distortion function for arbitrary (binary or non-binary) discrete memoryless sources and the Shannon capacity of arbitrary discrete memoryless channels.

연구 동기 및 목표

• 임의의 이산 메모리가 없는 채널의 전반적인 샤논 용량으로까지 폴라 코드의 최적성 확장을 위해 대칭 용량을 초월하는 것.
• 내재된 폴라 코드가 단지 대칭 비용-손실 함수가 아닌, 임의의 이산 메모리가 없는 소스에 대해 샤논 비용-손실 함수를 달성할 수 있음을 입증하는 것.
• 유한 아벨 군과 군 연산을 사용하여 폴라 코딩 기법을 이진 알파벳에서 비이진 알파벳으로 일반화하는 것.
• 내재된 폴라 코드가 채널 및 소스 코딩 설정 모두에서 오류 확률이 감소하고 비율 손실이 무시할 만큼 작아지는 최적 성능을 달성할 수 있음을 보여주는 것.

제안 방법

• 유한 아벨 군 위에서 원래의 $(u, u+v)$ 커널을 사용하여 비이진 알파벳으로의 분할을 일반화한 폴라 코드를 활용한다.
• 부분군 $K \leq H \leq \mathbf{G}$ 를 사용하여 코드 인덱스를 분할하는 내재된 코딩 구조를 적용한다.
• 바타차리야 매개수 $Z^H(W_{c,N}^{(i)})$ 와 $Z^H(W_{s,N}^{(i)})$ 를 기반으로 집합 $A_{H,K}$ 와 $B_{H,K}$ 를 정의하여 신뢰할 수 있는 및 불신뢰할 수 있는 채널을 식별한다.
• 전이자 $T_H$ 와 $T_{K \leq H}$ 를 사용하여 군 원소를 구성요소로 분해함으로써 인코딩 및 디코딩을 위한 구조적 메시지 주입을 가능하게 한다.
• 두 단계 인코딩을 적용한다: $K \leq H$ 인 경우 $A_{H,K}$ 에 속하는 인덱스에서는 $[v_i]_K$ 가 알려져 있고 $[v_i]_{T_{K\leq H}}$ 가 메시지를 수반한다; $K \nleq H$ 인 경우 $v_i$ 는 별도의 폴라 코드를 통해 전송된다.
• 코스에 대해 최대우도 추정을 사용한 디코딩: $\hat{v}_i = \arg\max_{g \in [v_i]_K + [v_i]_{T_{K\leq H}} + T_H} W_{c,N}^{(i)}(z_1^N, \hat{v}_1^{i-1} | g)$ 로 하여 신뢰할 수 있는 재구성 보장.

실험 결과

연구 질문

• RQ1 내재된 폴라 코드는 비이진 채널을 포함한 임의의 이산 메모리가 없는 채널의 샤논 용량을 달성할 수 있는가?
• RQ2 내재된 폴라 코드는 일반 재구성 알파벳을 가진 임의의 이산 메모리가 없는 소스에 대해 샤논 비용-손실 함수를 달성하는가?
• RQ3 유한 아벨 군을 사용하여 이분기 분할 프레임워크를 이진에서 비이진 알파벳으로 어떻게 일반화할 수 있는가?
• RQ4 내재된 구조에서 신뢰할 수 없는 인덱스를 전송함으로써 발생하는 비율 손실은 얼마이며, 이를 무시할 수 있을 정도로 줄일 수 있는가?
• RQ5 블록 길이가 증가함에 따라 전송이 필요한 인덱스의 비율이 0으로 수렴하도록 내재된 구조를 설계할 수 있는가?

주요 결과

• 내재된 폴라 코드는 유한 아벨 군 위에서 군 기반의 분할과 내재된 코딩을 사용하여 임의의 이산 메모리가 없는 채널, 비이진 채널을 포함하여 샤논 용량을 달성한다.
• $N \to \infty$ 일 때 $K \nleq H$ 인 인덱스의 비율이 0으로 수렴하여 별도의 폴라 코드를 통해 전송이 필요한 인덱스의 비율이 무시할 만큼 작아진다.
• 블록 길이 $N$ 이 증가함에 따라 바타차리야 매개수의 분할로 인해 채널 및 소스 코딩 설정에서 오류 확률이 0으로 수렴한다.
• 이전 연구에서는 이진 소스에 대해 대칭 비용-손실 함수를 달성했지만, 본 논문은 일반 재구성 알파벳을 가진 임의의 이산 메모리가 없는 소스로 결과를 확장한다.
• 전이자와 부분군 분해의 사용은 비이진 설정에서도 구조적 메시지 주입과 신뢰할 수 있는 디코딩을 가능하게 한다.
• 분석 결과, $i \in A_H$ 에 대해 $Z^H(W_{c,N}^{(i)}) \to 0$ 과 $Z^H(W_{s,N}^{(i)}) \to 1$ 이고, $i \in B_H$ 에 대해 $Z^H(W_{c,N}^{(i)}) \to 1$ 과 $Z^H(W_{s,N}^{(i)}) \to 0$ 이며, 이는 분할이 확인된다.