[논문 리뷰] Capacity-Achieving Codes with Bounded Graphical Complexity on Noisy Channels

Chun-Hao Hsu, Achilleas Anastasopoulos|arXiv (Cornell University)|2005. 09. 19.

Error Correcting Code Techniques인용 수 14

한 줄 요약

이 논문은 외부 LDPC 코드와 내부 레이트-1 LDGM 코드로 구성된 연결형 코드인 LDPC-GM 코드를 소개한다. 이 코드는 최대우도 해독 하에서 그래픽 복잡도가 유한한 조건 하에 모든 무-memory 이진입력출력대칭(MBIOS) 채널에서 용량을 달성한다. 내부 LDGM 코드는 LDPC 코드의 고중량 코드어를 억제하면서도 낮은 중량 코드어를 최소한으로 유지함으로써, 코드 집합이 渐진적으로 Gilbert-Varshamov 경계에 수렴하고, 이진 지워짐 채널(BEC)에서 비트당 고정된 복잡도로 용량을 달성할 수 있게 한다.

ABSTRACT

We introduce a new family of concatenated codes with an outer low-density parity-check (LDPC) code and an inner low-density generator matrix (LDGM) code, and prove that these codes can achieve capacity under any memoryless binary-input output-symmetric (MBIOS) channel using maximum-likelihood (ML) decoding with bounded graphical complexity, i.e., the number of edges per information bit in their graphical representation is bounded. In particular, we also show that these codes can achieve capacity on the binary erasure channel (BEC) under belief propagation (BP) decoding with bounded decoding complexity per information bit per iteration for all erasure probabilities in (0, 1). By deriving and analyzing the average weight distribution (AWD) and the corresponding asymptotic growth rate of these codes with a rate-1 inner LDGM code, we also show that these codes achieve the Gilbert-Varshamov bound with asymptotically high probability. This result can be attributed to the presence of the inner rate-1 LDGM code, which is demonstrated to help eliminate high weight codewords in the LDPC code while maintaining a vanishingly small amount of low weight codewords.

연구 동기 및 목표

• 무-memory 이진입력출력대칭(MBIOS) 채널에서 그래픽 복잡도가 유한한 용량 달성 코드를 설계하기 위해.
• 일반적인 MBIOS 채널에서, 특히 이진 지워짐 채널(BEC) 이외의 채널에서도 그래픽 복잡도가 유한한 경우 용량을 달성할 수 있는지 여부라는 열린 문제를 해결하기 위해.
• 연결형 LDPC-GM 코드의 평균 무게 분포(AWD)를 분석하고, 그 점 渐진적 성장률이 Gilbert-Varshamov 경계에 수렴함을 보이기 위해.
• belief propagation(BP) 해독 하에서 BEC에서 비트당 고정된 복잡도로 이 코드들이 용량을 달성함을 보여주기 위해.
• 밀도 진화 기법에 의존하지 않고도 용량 달성 반복 해독을 위한 필요 조건을 제시하기 위해, 이는 일반적인 MBIOS 채널에서는 적용이 불가능하다.

제안 방법

• 외부 LDPC 코드와 내부 레이트-1 LDGM 코드를 사용하여 연결형 LDPC-GM 코드의 가족을 구성하기 위해.
• LDPC-GM 집합의 평균 무게 분포(AWD)를 유도하고, 생성함수 및 모멘트 생성 함수 기법을 사용하여 그 점 渐진적 성장률을 분석하기 위해.
• [10]의 최대우도 성능 경계를 사용하여, AWD의 성장률이 양의 영역에서 랜덤 집합에 의해 상한이 있음을 증명하고, 음의 영역에서는 무시할 수 있는 정도의 코드어가 있음을 보여주기 위해.
• 밀도 진화 분석을 적용하여 BEC에서 비트당 고정된 복잡도로 성공적인 belief propagation 해독을 보여주기 위해.
• LDPC 및 LDGM 코드 모두에 비정규도 분포를 도입하여, 용량에 임의로 가까운 레이트를 달성하면서도 고정된 복잡도를 유지하기 위해.
• 모든 ε > 0 과 q ∈ (0,1) 에 대해 코드 집합의 레이트가 R > (1−ε)(1−q) 를 만족함을 증명하여, 용량 달성 성능이 고정된 복잡도로 임의로 가까이 접근함을 보여주기 위해.

실험 결과

연구 질문

• RQ1 최대우도 해독 하에서 그래픽 복잡도가 유한한 코드로 일반적인 MBIOS 채널에서 용량을 달성할 수 있는가?
• RQ2 연결형 LDPC 아키텍처에 레이트-1 LDGM 코드를 포함시키면 고중량 코드어는 억제되고 낮은 중량 코드어의 수는 극히 적게 유지되는가?
• RQ3 LDPC-GM 코드는 비트당 고정된 복잡도로 BEC에서 belief propagation 해독 하에 용량을 달성할 수 있는가?
• RQ4 LDPC-GM 집합의 평균 무게 분포(AWD)는 점 渐진적으로 Gilbert-Varshamov 경계에 의해 상한이 되는가?
• RQ5 밀도 진화 기법에 의존하지 않고도 최대우도 성능 경계를 사용하여 용량 달성 반복 해독을 위한 필요 조건을 제시할 수 있는가?

주요 결과

• LDPC-GM 코드 집합은 최대우도 해독 하에서 그래픽 복잡도가 유한한 조건 하에 모든 MBIOS 채널에서 용량을 달성한다. 즉, 정보 비트당 간선 수가 일정하다.
• 내부 레이트-1 LDGM 코드는 LDPC 코드의 고중량 코드어를 효과적으로 억제하면서도 극히 적은 수의 낮은 중량 코드어를 유지함으로써, 양의 영역에서 랜덤 집합에 의해 상한이 되는 AWD의 점 渐진적 성장률을 보장한다.
• LDPC-GM 집합의 AWD는 음의 영역에서 최소한 다항식적으로 감소하는 수의 코드어를 가지며, 이는 코드어가 점 渐진적으로 고려할 수 있는 확률로 Gilbert-Varshamov 경계를 충족함을 보장한다.
• BEC에서 LDPC-GM 코드는 비트당 고정된 복잡도로 모든 erasure 확률 q ∈ (0,1) 에 대해 용량을 달성한다.
• 모든 ε > 0 에 대해 코드 집합의 레이트가 R > (1−ε)(1−q) 를 만족함을 증명하여, 고정된 복잡도로 용량에 임의로 가까이 접근함을 보여준다.
• 최대우도 성능 경계의 사용은 밀도 진화 기법이 적용이 불가능한 일반적인 MBIOS 채널에서 용량 달성 반복 해독을 위한 필요 조건을 제공한다.