[논문 리뷰] Low density majority codes and the problem of graceful degradation

Hajir Roozbehani, Yury Polyanskiy|arXiv (Cornell University)|2019. 11. 26.

Error Correcting Code Techniques참고 문헌 57인용 수 5

한 줄 요약

이 논문은 이진 지워짐 채널(BEC)에서 비트 오류율(BER) 성능이 부드럽고 점진적으로 악화되는 것을 달성하기 위해 소수의 데이터 비트에 대한 majority 함수를 사용하는 비선형 희박도 그래프 부호 가족인 저밀도 다수결 부호(LDMCs)를 소개한다. 선형 LDGM 부호와는 달리, LDMCs는 비선형성을 활용하여 신뢰도 전파(BP) 디코딩을 부트스트랩하며, 몇 번의 BP 반복만으로도 선형 시스템 부호보다 훨씬 뛰어난 성능을 보인다. 또한 선형과 비선형 하위클래스를 구분하는 새로운 이중점 역설한계를 수립하여, 시스템 부호의 성능 한계를 더욱 견고히 한다.

ABSTRACT

We study a problem of constructing codes that transform a channel with high bit error rate (BER) into one with low BER (at the expense of rate). Our focus is on obtaining codes with smooth ("graceful'') input-output BER curves (as opposed to threshold-like curves typical for long error-correcting codes). This paper restricts attention to binary erasure channels (BEC) and contains three contributions. First, we introduce the notion of Low Density Majority Codes (LDMCs). These codes are non-linear sparse-graph codes, which output majority function evaluated on randomly chosen small subsets of the data bits. This is similar to Low Density Generator Matrix codes (LDGMs), except that the XOR function is replaced with the majority. We show that even with a few iterations of belief propagation (BP) the attained input-output curves provably improve upon performance of any linear systematic code. The effect of non-linearity bootstraping the initial iterations of BP, suggests that LDMCs should improve performance in various applications, where LDGMs have been used traditionally. Second, we establish several extit{two-point converse bounds} that lower bound the BER achievable at one erasure probability as a function of BER achieved at another one. The novel nature of our bounds is that they are specific to subclasses of codes (linear systematic and non-linear systematic) and outperform similar bounds implied by the area theorem for the EXIT function.

연구 동기 및 목표

• 채널 부호화에서 채널 노이즈가 증가함에 따라 오류율이 급격히 악화되는 것이 아니라 부드럽게 악화되는 것을 달성할 수 있는 광범위하게 수용된 솔루션이 부족한 문제를 해결하기 위해.
• 고 BER 채널을 낮은 BER 채널로 변환하여 부드럽고 단조로운 BER 곡선을 갖는 내부 부호를 설계하기 위해.
• 부드러운 성능 악화를 달성하기 위해 선형 시스템 부호의 한계를 극복하기 위해 비선형 대체 방식을 도입하기 위해.
• 특히 선형과 비선형 하위클래스를 구분하여, 시스템 부호에 대한 더 날카운 역설한계를 수립하기 위해.
• 이론적 도구를 확장하여 이진 입력 대칭 채널에서 희박도 그래프 부호를 BP로 디코딩하는 데 있어 엄밀한 분석 프레임워크를 제공하기 위해.

제안 방법

• 각 출력 비트가 입력 비트의 무작위로 선택된 소수의 부분집합에 대한 majority 함수로 구성되는 저밀도 다수결 부호(LDMCs)를 제안하며, LDGM 부호에서 사용하는 XOR 연산을 대체한다.
• LDMCs에서의 신뢰도 전파(BP) 디코딩을 사용하여, 비선형성이 초기 디코딩 반복 단계에서 성능을 향상시키고 빠른 수렴 및 향상된 BER 성능을 이끌어낸다.
• 임의의 이진 입력 대칭 채널에서 BP 디코딩 성능을 엄밀하게 경계하기 위해 E-함수와 카이제곱 정보를 기반으로 한 새로운 채널 비교 방법을 개발한다.
• 카이제곱 정보에 대해 Mrs. Gerber의 보조정리를 확장하여 덜 노이즈가 많은 순서에서 극한성( extremality )을 특성화함으로써 더 날카운 성능 경계를 가능하게 한다.
• 선형 시스템 부호와 비선형 시스템 부호에 특화된 이중점 역설한계를 유도하며, EXIT 함수의 면적 정리에 의해 유도되는 경계보다 더 날카롭게 한다.
• LDMC(d)의 지워짐 다항식을 사용하여 성능 경계를 계산하고 최적화하며, d ≤ 10인 경우에 대해 명시적인 표현식을 제공한다.

실험 결과

연구 질문

• RQ1 비선형 희박도 그래프 부호가 이진 지워짐 채널에서 선형 LDGM 부호보다 BER 성능이 더 매끄럽고 점진적으로 악화되는가?
• RQ2 LDMCs의 majority 함수의 비선형성이 선형 부호보다 BP의 초기 수렴을 어떻게 향상시키는가?
• RQ3 선형과 비선형 하위클래스를 구분함으로써 시스템 부호에 대해 더 날카운 이중점 역설한계를 도출할 수 있는가?
• RQ4 E-함수와 카이제곱 정보를 기반으로 한 채널 비교 방법이 BP로 디코딩되는 희박도 그래프 부호의 분석을 얼마나 향상시킬 수 있는가?
• RQ5 부집합 크기 d가 증가함에 따라 시스템 LDMC(d)의 점근적 성능 한계는 무엇인가?

주요 결과

• 단지 몇 번의 BP 반복만으로도 LDMCs가 어떤 선형 시스템 부호보다도 성능이 엄밀히 뛰어나며, 초기 디코딩 단계에서 비선형성의 이점이 입증된다.
• 시스템 LDMCs에 대해 유도된 이중점 역설한계는 EXIT 함수의 면적 정리에 의해 유도되는 경계보다 더 날카롭며, 특히 비선형 부호에서 두드러진다.
• LDMC(3)의 경우, 지워짐 확률가 0.5일 때 BER은 약 0.15625 이하로 경계되며, 이 값은 d가 증가함에 따라 감소하여 d → ∞일 때 약 0.07056에 수렴한다.
• d=3과 d=5인 시스템 LDMC(d)의 성능은 이전에 알려진 바보다 더 날카운 상한선으로 경계되며, LDGM보다 뚜렷한 성능 향상을 보인다.
• LDMC(3)의 E-함수는 q에 대한 다항식으로 명시적으로 계산되어, 다양한 지워짐 확률 범위에서 정확한 성능 평가 및 최적화가 가능하다.
• d→∞일 때 시스템 LDMC(d)의 점근적 BER 한계는 0.07056 이하로 경계되며, 이는 이 부호군의 기본 성능 바닥을 시사한다.