[논문 리뷰] Pseudorandom Linear Codes Are List-Decodable to Capacity

Putterman, Aaron (Louie), Pyne, Edward|arXiv (Cornell University)|2021. 09. 24.

Cooperative Communication and Network Coding인용 수 1

한 줄 요약

이 논문은 낮은 비bias를 가진 코드—특히 임의의 낮은 비bias 또는 큰 거리의 '모계' 코드에 대한 임의의 펄처링—이 랜덤 선형 코드(RLC)의 최적 리스트 디코딩 및 용량 달성 성질을 상속받음을 보여준다. 이는 성능을 희생시키지 않은 채 RLC의 랜덤성 제거를 가능하게 한다. 핵심 결과는 이러한 펄처링된 코드가 모계 코드의 구조적 조건이 만족될 경우, 메모리 없는 가우시안 노이즈 채널에서 리스트 디코딩 용량과 샤논 용량을 고확률로 달성한다는 것이다.

ABSTRACT

Random linear codes are a workhorse in coding theory, and are used to show the existence of codes with the best known or even near-optimal trade-offs in many noise models. However, they have little structure besides linearity, and are not amenable to tractable error-correction algorithms. In this work, we prove a general derandomization result applicable to random linear codes. Namely, in settings where the coding-theoretic property of interest is "local" (in the sense of forbidding certain bad configurations involving few vectors -- code distance and list-decodability being notable examples), one can replace random linear codes (RLCs) with a significantly derandomized variant with essentially no loss in parameters. Specifically, instead of randomly sampling coordinates of the (long) Hadamard code (which is an equivalent way to describe RLCs), one can randomly sample coordinates of any code with low bias. Over large alphabets, the low bias requirement can be weakened to just large distance. Furthermore, large distance suffices even with a small alphabet in order to match the current best known bounds for RLC list-decodability. In particular, by virtue of our result, all current (and future) achievability bounds for list-decodability of random linear codes extend automatically to random puncturings of any low-bias (or large alphabet) "mother" code. We also show that our punctured codes emulate the behavior of RLCs on stochastic channels, thus giving a derandomization of RLCs in the context of achieving Shannon capacity as well. Thus, we have a randomness-efficient way to sample codes achieving capacity in both worst-case and stochastic settings that can further inherit algebraic or other algorithmically useful structural properties of the mother code.

연구 동기 및 목표

• 랜덤 선형 코드(RLC)의 구조 부족과 알고리즘 효율성 부족 문제를 해결하기 위해, RLC는 강력하지만 디코딩이 어려운 점을 다루기 위해.
• RLC의 최적 조합적 성질—예를 들어 리스트 디코딩 가능성과 용량 달성 행동—이 낮은 비bias 또는 큰 거리의 모계 코드를 사용한 랜덤화 제거를 통해 유지될 수 있음을 증명하기 위해.
• 이러한 모계 코드의 임의의 펄처링이 worst-case 및 확률적 채널 환경에서 RLC와 유사하게 행동함을 보여주기 위해.
• RLC가 일반적으로 만족하는 국소적, 단조 감소 성질에 대해 적용 가능한 일반적인 랜덤성 제거 프레임워크를 제공하기 위해.
• 대부분의 대수적 구조와 효율적인 디코딩을 갖추면서도 RLC의 성능을 그대로 유지하는 코드의 구축을 가능하게 하기 위해.

제안 방법

• 저자들은 '국소적' 코드 성질을 정의하며, 이는 거리나 리스트 디코딩 제약을 위반하는 등 특정 작은 수의 코드워드가 '불량한 구성'을 이룰 경우에만 실패하는 성질로 정의한다.
• 모계 코드 D가 낮은 비bias(또는 큰 거리)를 가진다면, D의 임의의 펄처링 C는 이러한 국소적 성질에 대해 RLC의 일반적인 행동을 상속받는다는 것을 증명한다.
• 증명은 확률론적 방법과 농도 경계를 사용하며, 특히 D의 비bias를 활용해 임의의 펄처링이 주어진 성질을 위반할 확률을 제어한다.
• 메모리 없는 가우시안 노이즈 채널에 대해, 오차 벡터에 대한 유니언 바운드를 적용하고, 비bias 기반의 비율을 사용해 비영인 벡터가 펄처링된 코드에 포함될 확률을 제어한다.
• 마르코프 부등식과 일반 집합의 개념을 사용해 디코딩 실패 확률이 n에 대해 지수적으로 작아짐을 보인다.
• 이 프레임워크는 임의의 알파벳 크기 q에 대해 적용 가능하며, worst-case 및 확률적 환경 모두에 확장되며, 명시적인 오차 경계를 제공한다.

실험 결과

연구 질문

• RQ1 랜덤 선형 코드(RLC)는 성능을 희생시키지 않고 랜덤성 제거가 가능한가?
• RQ2 모계 코드에 대해 어떤 조건이 임의의 펄처링이 RLC의 국소적 성질을 유지하는가?
• RQ3 낮은 비bias 코드가 RLC를 모방하는 펄처링 구성에서 허드슨 코드의 효과적 대체로 기능할 수 있는가?
• RQ4 확률적 채널에서 RLC의 성능을 어떤 정도까지 구조적 낮은 비bias 모계 코드로 재현할 수 있는가?
• RQ5 이 랜덤성 제거 프레임워크는 코딩 이론에서 일반적으로 만족되는 모든 국소적, 단조 감소 성질로 일반화 가능한가?

주요 결과

• 낮은 비bias 코드의 임의의 펄처링은 고확률로 리스트 디코딩 용량을 달성하며, RLC의 성능을 그대로 재현한다.
• 임의의 소수 거듭제곱 q와 메모리 없는 가우시안 노이즈 분포 ν에 대해, ε/(3(q−1))-비bias를 가진 레이트 R ≤1−Hq(ν)−ε인 코드의 임의의 펄처링은 디코딩 오차 확률이 최대 2q−cνε²n 이하로 용량을 달성한다.
• 임의의 펄처링이 국소적, 단조 감소 성질을 만족하지 못할 확률은 최대 2−Ω(εn) 이하이며, 이는 RLC의 경계와 일치한다.
• 랜덤성 제거 과정은 worst-case 및 확률적 환경 모두에서 성능을 유지하며, 이는 이진 및 더 큰 알파벳 모두에 적용된다.
• 모계 코드가 큰 거리를 가진다면, 낮은 비bias 조건을 초월해 작은 알파벳에서도 성립한다.
• 이 프레임워크는 대수적 구조와 효율적 디코딩을 갖춘 코드의 구축을 가능하게 하며, 샤논 용량과 리스트 디코딩 용량을 모두 달성한다.