[논문 리뷰] Polar Codes with exponentially small error at finite block length

B{\l}asiok, Jaros{\l}aw, Venkatesan Guruswami외 1명|arXiv (Cornell University)|2018. 10. 09.

Error Correcting Code Techniques인용 수 3

한 줄 요약

이 논문은 자연스러운 혼합 조건을 만족하는 폴라 코드의 전체 클래스가 다항 수렴 속도로 캐파시티에 수렴하고, 실패 확률이 지수적으로 작아지는(exp(−N^Ω(1))) 것을 입증한다. 아리칸 마팅게일의 국소 분석을 강화함으로써, 저자들은 강한 극화를 보이는 모든 폴라 코드 가족이 다항 블록 길이에서 near-optimal 오차 지수를 갖는다는 것을 보이며, 이는 이론적 수렴과 실용적 오차 성능 사이의 오랜 격차를 해결한다.

ABSTRACT

We show that the entire class of polar codes (up to a natural necessary condition) converge to capacity at block lengths polynomial in the gap to capacity, while simultaneously achieving failure probabilities that are exponentially small in the block length (i.e., decoding fails with probability $\exp(-N^{\Omega(1)})$ for codes of length $N$). Previously this combination was known only for one specific family within the class of polar codes, whereas we establish this whenever the polar code exhibits a condition necessary for any polarization. Our results adapt and strengthen a local analysis of polar codes due to the authors with Nakkiran and Rudra [Proc. STOC 2018]. Their analysis related the time-local behavior of a martingale to its global convergence, and this allowed them to prove that the broad class of polar codes converge to capacity at polynomial block lengths. Their analysis easily adapts to show exponentially small failure probabilities, provided the associated martingale, the ``Arikan martingale'', exhibits a corresponding strong local effect. The main contribution of this work is a much stronger local analysis of the Arikan martingale. This leads to the general result claimed above. In addition to our general result, we also show, for the first time, polar codes that achieve failure probability $\exp(-N^{\beta})$ for any $\beta < 1$ while converging to capacity at block length polynomial in the gap to capacity. Finally we also show that the ``local'' approach can be combined with any analysis of failure probability of an arbitrary polar code to get essentially the same failure probability while achieving block length polynomial in the gap to capacity.

연구 동기 및 목표

• 폴라 코드에서 이론적 수렴과 실용적 오차 성능 사이의 격차를 메우기 위해.
• 자연스러운 혼합 조건을 만족하는 모든 폴라 코드가 다항 수렴 속도로 캐파시티에 수렴하고, 지수적으로 작은 실패 확률을 동시에 달성한다는 것을 증명하기 위해.
• 이전 결과들이 특정 폴라 코드 구조에만 적용되었던 것을 일반화하기 위해.
• 강한 국소 극화가 유한 블록 길이에서 near-optimal 오차 지수를 암시한다는 것을 보여주기 위해.
• 국소 분석 프레임워크를 기존의 어떤 실패 확률 분석과도 조합하여 동시에 수렴성과 오차 지수 향상을 이끌어내기 위해.

제안 방법

• 아리칸 마팅게일의 국소 분석을 강화하여 일반적인 혼합 조건 하에서 강한 극화를 확립하기 위해.
• 점점 증가하는 오차 지수 결과를 유한 블록 길이 보장을 얻기 위해 변환하는 데 사용되는 블랙박스 리프팅 기법을 사용하기 위해.
• 가우시안 채널에서의 오류 수정과 선형 압축 방식 간의 등가성을 적용하기 위해.
• 벡터 지배 하에 오류 집합의 상향 폐쇄 성질을 활용하여 코드 거리의 하한을 유도하기 위해.
• 생성 행렬의 텐서 거듭제곱에서 부분행렬을 선택하여 높은 최소 거리를 갖는 코드를 구성하기 위해.
• 행렬 이론, 정보 이론, 마팅게일 농도 이론의 결과를 융합하여 지수적 극화와 오차 지수 하한을 증명하기 위해.

실험 결과

연구 질문

• RQ1 모든 폴라 코드가 자연스러운 혼합 조건을 만족할 경우, 다항 수렴 속도로 캐파시티에 수렴하고 동시에 실패 확률이 exp(−N^Ω(1))이 되는가?
• RQ2 아리칸 마팅게일의 강한 국소 분석은 유한 블록 길이에서 near-optimal 오차 지수를 암시하는가?
• RQ3 임의의 β < 1에 대해, 캐파시티에 수렴하는 다항 블록 길이를 유지하면서도 실패 확률을 exp(−N^β)로 개선할 수 있는가?
• RQ4 일반적이고 모듈러적인 프레임워크를 사용해 점점 증가하는 오차 지수 결과를 유한 블록 길이로 리프팅할 수 있는가?
• RQ5 국소 분석 접근법을 기존의 어떤 실패 확률 분석과도 통합하여 더 나은 유한 길이 성능을 도출할 수 있는가?

주요 결과

• 혼합 조건을 만족하는 모든 폴라 코드는 캐파시티에 수렴하는 데 필요한 역간격의 다항 함수 길이에서 실패 확률이 exp(−N^Ω(1))을 달성한다.
• 모든 β < 1에 대해, 실패 확률이 exp(−N^β)이면서 캐파시티에 수렴하는 다항 길이(poly(1/ε))를 갖는 폴라 코드가 존재한다.
• 매트릭스가 충분히 크고 적절히 선택될 경우, 아리칸 마팅게일은 임의의 β′ < β에 대해 β′-지수적 강한 극화를 보인다.
• 국소 분석 기법은 기존의 어떤 실패 확률 분석과도 조합 가능하며, 동일한 오차 지수를 유지하면서도 캐파시티에 수렴하는 다항 길이를 확보할 수 있다.
• 최소 거리가 높은 M^⊗t의 부분행렬을 구성할 수 있으며, 이는 강한 극화와 낮은 디코딩 오차를 보장한다.
• 증명은 블랙박스 리프팅 메커니즘을 확립한다: 임의의 점점 증가하는 오차 지수 결과는 다항 블록 길이에서 동일한 지수로 유한 길이 성능을 암시한다.