[논문 리뷰] On the Construction of Polar Codes for Channels with Moderate Input Alphabet Sizes

Ido Tal|arXiv (Cornell University)|2015. 06. 28.

Error Correcting Code Techniques참고 문헌 16인용 수 6

한 줄 요약

이 논문은 중간 크기의 입력 알파벳 크기를 가진 채널에 대해 결정론적 펄스 코드 설계의 효율성에 대한 기본 한계를 규명한다. 구체적으로, 계산 복잡도를 관리하기 위해 일반적으로 사용되는 열화 근사가 필수적으로 상당한 상호정보량 손실을 초래한다는 것을 증명한다. 핵심 결과는 이러한 채널에서 상호정보량 손실을 낮게 유지하기 위해서는 근사 채널의 출력 알파벳 크기가 비현실적으로 크게 필요하다는 것이다. 이는 현재의 설계 방법이 작은 알파벳 크기를 초과하면 실용적으로 불가능하게 만든다.

ABSTRACT

Current deterministic algorithms for the construction of polar codes can only be argued to be practical for channels with small input alphabet sizes. In this paper, we show that any construction algorithm for channels with moderate input alphabet size which follows the paradigm of "degrading after each polarization step" will inherently be impractical with respect to a certain "hard" underlying channel. This result also sheds light on why the construction of LDPC codes using density evolution is impractical for channels with moderate sized input alphabets.

연구 동기 및 목표

• 중간 크기의 입력 알파벳 크기를 가진 채널에 대해 결정론적 펄스 코드 설계 알고리즘의 실용성을 분석하기.
• 입력 알파벳 크기가 증가함에 따라 열화 또는 업그레이드된 중간 채널 기반 기존 방법들이 왜 실용적이지 않게 되는지 조사하기.
• 근사 채널의 출력 알파벳 크기와 상호정보량 손실 사이의 트레이드오프를 정량화하기.
• 코드 설계에서의 '차원의 저주'를 설명하는 이론적 하한값을 제공하기.

제안 방법

• 저자들은 분석의 하드 케이스로 작용할 수 있도록 균일한 입력 분포를 가진 특정한 대칭 채널을 정의한다.
• 구면 적분과 체적 농축 기반의 기하학적 접근을 사용하여 근사 채널의 열화 비용을 한정한다.
• 근사화된 확률 벡터의 분산과 그로 인한 상호정보량 손실 간의 관계를 기술하는 보조정리를 유도한다.
• 고차원 확률 단체에서의 허들러의 결함 공식과 체적 추정을 활용하여, 볼록성 기반의 열화 비용 하한을 유도한다.
• 출력 문자를 L개의 그룹으로 분할하고 체적 제약 조건 하에서 가능한 최소 열화 비용을 분석한다.
• M→∞로의 점 渐진 분석을 통해 q(입력 알파벳 크기)와 L(근사 출력 크기)에 대한 열화 비용의 날카운 하한을 유도한다.

실험 결과

연구 질문

• RQ1 펄스 코드 설계에서 중간 크기의 출력 알파벳 크기를 가진 합성 채널을 근사할 때, 최소한의 상호정보량 손실은 얼마인가?
• RQ2 허용 가능한 열화 비용을 유지하기 위해 근사 채널의 크기 L이 입력 알파벳 크기 q와 어떻게 비례하는가?
• RQ3 왜 현재의 결정론적 펄스 코드 설계 알고리즘이 중간 크기의 입력 알파벳 크기를 가진 채널에서는 실용적이지 않은가?
• RQ4 표준 근사 프레임워크 하에서 코드 설계의 '차원의 저주'를 공식적으로 정량화할 수 있는가?
• RQ5 특정 채널 구조에 의존하지 않고 오직 q와 L에만 의존하는 열화 비용의 기본 하한이 존재하는가?

주요 결과

• 중간 크기의 입력 알파벳 크기 q를 가진 채널에서, L개의 출력 문자를 가진 어떤 열화 근사도 M→∞일 때 최소한 Ω(q(q−1)!/L(q+1)/(q−1))의 비용을 유발한다.
• 열화로 인한 상호정보량 손실은 q에 따라 급격히 증가하고 L에 따라 감소하는 함수로 하한이 정해지며, 이는 중간 크기의 q에 대해 L이 실용적으로 너무 크게 필요하게 만든다.
• 열화 비용의 하한은 고차원에서의 확률 단체의 기하학적 성질과 체적 농축을 기반으로 유도된다.
• 이 결과는 매개변수화된 '각 극화 단계 이후 열화'에 의존하는 결정론적 설계 알고리즘이 중간 크기의 q에 대해서는 비현실적으로 불가능하다는 것을 암시한다. 심지어 작은 상호정보량 손실이라도 마찬가지다.
• 이 분석은 같은 근본적 제약 조건을 통해 밀도 진동 기반의 LDPC 코드 설계가 중간 알파벳 크기 채널에서 실용적으로 불가능한 이유를 설명한다.
• 유도된 하한은 주어진 제약 조건 하에서 최소 달성 가능한 열화 비용의 점 渐진 행동과 일치하므로, 날카로운 하한임을 의미한다.