[논문 리뷰] On the Capacity of Channels with Deletions and States

Yonglong Li, Vincent Y. F. Tan|arXiv (Cornell University)|2019. 11. 10.

DNA and Biological Computing참고 문헌 20인용 수 6

한 줄 요약

이 논문은 삭제 채널과 유한 상태 채널(FSC)가 연결된 채널의 운영 용량이 그 정적 용량과 같음을 입증하며, 증가하는 마르코프 순서를 갖는 마르코프 근사 기법을 통해 이를 접근함을 보여준다. 주요 부산물로는 Tal, Pfister, Fazeli, Vardy의 펄스 코딩 기법이 삭제 채널의 용량을 달성함을 보이며, 정규 은닉 마르코프 입력이 진정한 용량에 접근할 수 있음을 입증한다.

ABSTRACT

We consider the class of channels formed from the concatenation of a deletion channel and a finite-state channel. For this class of channels, we show that the operational capacity is equal to the stationary capacity, which can be approached by a sequence of Markov processes with increasing Markovian orders. As a by-product, we show that the polar coding scheme constructed by Tal, Pfister, Fazeli and Vardy achieves the capacity of the deletion channel.

연구 동기 및 목표

• 삭제 채널과 유한 상태 채널(FSC)를 연결한 통신 채널의 용량을 분석하는 것.
• 이 채널 모델의 운영 용량이 그 정적 용량과 같음을 보이는 것.
• 마르코프 순서가 증가함에 따라 마르코프 용량이 운영 용량으로 수렴함을 증명하여, 이 채널 유형에 대한 마르코프 근사 기법의 효과를 검증하는 것.
• 정규 은닉 마르코프 입력이 삭제-FSC 채널의 용량을 달성할 수 있는지 여부라는 열린 질문을 해결하는 것.
• Tal 등이 제안한 펄스 코딩 기법이 삭제 채널의 용량을 달성할 수 있음을 보여주는 것.

제안 방법

• 입력 시퀀스가 랜덤 삭제를 겪고 상태에 따라 전이가 일어나는 삭제 채널과 FSC의 연결로 채널 모델을 수식화하는 것.
• 증가하는 순서 m에 따라 정의되는 m번째 마르코프 용량 개념을 도입하며, 이를 마르코프 입력 과정에 대해 최적화하여 계산하는 것.
• 정규 은닉 마르코프 입력의 강력한 극화 성질과 FSC의 분해 불가능성 조건을 결합하여, 마르코프 용량 수열이 운영 용량으로 수렴함을 보이는 것.
• 다른 초기 상태에서의 조건부 출력 분포 간의 총 변동 거리(총변동거리)를 유계화하기 위해 커플링 추론을 적용하여, 점차 상태에 민감하지 않아지는 성질을 증명하는 것.
• 블록 내 삭제 수가 이항분포를 이룬다는 사실을 활용하여, 초기 상태 불확실성의 영향을 제어하기 위한 농도 추론을 적용하는 것.
• 마르코프 근사 프레임워크를 최근 기억 채널에 대한 극화 이론의 결과들과 결합하여, 용량을 달성하는 코딩 체계를 확립하는 것.

실험 결과

연구 질문

• RQ1 삭제 채널과 FSC의 연결에 대해 마르코프 근사 기법이 운영 용량으로 수렴하는가?
• RQ2 정규 은닉 마르코프 입력이 삭제-FSC 채널의 용량을 달성할 수 있는가?
• RQ3 Tal 등이 제안한 펄스 코딩 기법이 삭제 채널의 용량을 달성할 수 있는가?
• RQ4 삭제-FSC 채널의 정적 용량이 그 운영 용량과 일치하는가?
• RQ5 FSC 구성 요소에서 다양한 초기 상태에 대해 출력 분포의 점근적 행동은 어떠한가?

주요 결과

• 삭제-FSC 채널의 운영 용량이 그 정적 용량과 같음을 입증하여, 삭제와 기억성을 갖는 채널 이론에서 핵심적인 질문을 해결하였다.
• 마르코프 순서 m이 증가함에 따라 m번째 마르코프 용량 수열이 운영 용량으로 수렴함을 보여, 이 채널 모델에 대한 마르코프 근사 기법의 타당성을 입증하였다.
• Tal, Pfister, Fazeli, Vardy의 펄스 코딩 기법이 삭제 채널의 용량을 달성함을 입증하였으며, 정규 은닉 마르코프 입력이 진정한 용량에 접근할 수 있음을 보였다.
• FSC의 혼합 성질과 삭제의 이항분포 성격 덕분에, 충분한 블록 길이 이후 FSC의 출력 분포는 초기 상태에 민감하지 않아짐을 보였다.
• 블록 길이가 증가함에 따라 다른 초기 상태에서의 출력 분포 간 총변동거리가 0으로 감소함을 보였으며, 이는 용량을 달성하는 코딩 체계의 가능성을 보장한다.