[논문 리뷰] Second- and Higher-Order Asymptotics For Erasure and List Decoding.

Vincent Y. F. Tan, Pierre Moulin|arXiv (Cornell University)|2014. 02. 20.

Coding theory and cryptography인용 수 1

한 줄 요약

이 논문은 이탈 및 목록 디코딩에 대한 이산 메모리리스 채널에서의 두 번째 차수 游근을 유도하며, 두 번째 차수 용량이 채널 분산과 오류 확률에 의해 결정됨을 보여준다. 유한 블록길이 이탈 디코딩이 표준 채널 부호화 속도를 초월할 수 있음을 입증하고, 다항식 크기의 목록에 대해 세 번째 차수 부호화 속도에 대한 날카운 경계를 수립한다.

ABSTRACT

We derive the optimum second-order coding rates, known as second-order capacities, for erasure and list decoding. For erasure decoding for discrete memoryless channels, we show that second-order capacity is V Φ−1(t) where V is the channel dispersion and t is the total error probability, i.e., the sum of the erasure and undetected errors. We show numerically that the expected rate at finite blocklength for erasures decoding can exceed the finite blocklength channel coding rate. We also show that the analogous result also holds for lossless source coding with decoder side information, i.e., Slepian-Wolf coding. For list decoding, we consider list codes of deterministic size that scales as exp( n l) and show that the second-order capacity is l+ V Φ−1() where is the permissible error probability. We also consider lists of polynomial size nα and derive bounds on the third-order coding rate in terms of the order of the polynomial α. These bounds are tight for symmetric and singular channels. The direct parts of the coding theorems leverage on the simple threshold decoder and converses are proved using variants of the hypothesis testing converse. I.

연구 동기 및 목표

• 이탈 오류와 탐지되지 않은 오류를 모두 고려할 때 이산 메모리리스 채널에서의 이탈 디코딩에 대한 두 번째 차수 용량을 결정하는 것.
• 유한 블록길이 이탈 디코딩이 표준 채널 부호화 한계를 초월하는 속도를 달성할 수 있음을 입증하는 것.
• 블록길이에 대해 지수적으로 증가하는 목록 크기를 갖는 목록 디코딩으로 두 번째 차수 游근을 확장하는 것.
• 특히 대칭 채널과 특이 채널에 대해 다항식 크기의 목록에 대해 세 번째 차수 부호화 속도에 대한 경계를 유도하는 것.
• 동일한 두 번째 차수 프레임워크 내에서 측정 정보가 있는 소스 부호화(Slepian-Wolf)의 분석을 통합하는 것.

제안 방법

• 임계값 디코더와 채널 분산 V를 사용하여 이탈 디코딩에 대한 두 번째 차수 용량을 유도하며, 용량은 VΦ⁻¹(t)로 표현되며, 여기서 t는 총 오류 확률이다.
• 가설 검정 반증 방법을 적용하여 이탈 및 목록 디코딩 시나리오 모두에 대해 날카운 반대 경계를 증명한다.
• 목록 크기가 exp(nl)로 증가하는 목록 디코딩을 분석하고, 두 번째 차수 용량을 l + VΦ⁻¹(ε)로 유도하며, 여기서 ε는 허용 가능한 오류 확률이다.
• 크기가 n^α인 다항식 크기의 목록을 고려하고, α에 대한 세 번째 차수 부호화 속도에 대한 상한과 하한을 유도한다.
• 채널의 구조적 성질과 오류 확률 제약 조건을 활용하여 대칭 및 특이 채널에 대해 경계의 날카움을 입증한다.
• 결과를 Slepian-Wolf 측정 정보가 있는 소스 부호화로 확장하여, 동일한 두 번째 차수 용량 행동을 보여준다.

실험 결과

연구 질문

• RQ1 이탈 오류와 탐지되지 않은 오류를 모두 고려할 때 이산 메모리리스 채널에서의 이탈 디코딩에 대한 두 번째 차수 용량은 무엇인가?
• RQ2 유한 블록길이 이탈 디코딩은 표준 유한 블록길이 채널 부호화 속도를 초월하는 속도를 달성할 수 있는가?
• RQ3 지수적으로 증가하는 목록 크기를 갖는 목록 디코딩에 대한 두 번째 차수 용량은 무엇인가?
• RQ4 다항식 크기의 목록에 대해 세 번째 차수 부호화 속도는 어떻게 행동하는가? 그리고 대칭 및 특이 채널에 대해 경계는 날카운가?
• RQ5 두 번째 차수 游근 프레임워크는 측정 정보가 있는 손실 없는 소스 부호화, 예를 들어 Slepian-Wolf 부호화로 확장 가능한가?

주요 결과

• 이탈 디코딩에 대한 두 번째 차수 용량은 VΦ⁻¹(t)이며, 여기서 V는 채널 분산이고 t는 총 오류 확률(이탈 + 탐지되지 않은 오류)이다.
• 유한 블록길이 이탈 디코딩은 표준 채널 부호화보다 더 높은 평균 속도를 달성할 수 있으며, 실용적 영역에서 성능 향상을 보여준다.
• 목록 크기가 exp(nl)인 목록 디코딩에 대해 두 번째 차수 용량은 l + VΦ⁻¹(ε)이며, 여기서 ε는 허용 가능한 오류 확률이다.
• 크기가 n^α인 다항식 크기의 목록에 대해, 본 논문은 대칭 및 특이 채널에 대해 세 번째 차수 부호화 속도에 대한 날카운 상한과 하한을 유도한다.
• 가설 검정 반증 방법은 이탈 및 목록 디코딩 설정 모두에서 날카운 반대 경계를 증명하는 데 강력한 도구를 제공한다.
• 이탈 디코딩에 대한 결과는 측정 정보가 있는 Slepian-Wolf 소스 부호화로 확장되며, 동일한 두 번째 차수 용량 행동을 보여준다.