[논문 리뷰] On the Capacity of Signal Dependent Noise Channels

Hamid Ghourchian, Gholamali Aminian외 3명|arXiv (Cornell University)|2017. 02. 12.

Molecular Communication and Nanonetworks인용 수 4

한 줄 요약

이 논문은 가우시안 신호에 의존하는 잡음(ASDN) 채널의 용량에 하한 및 상한을 설정하며, 잡음 분산을 줄이더라도 항상 용량이 증가하는 것은 아님을 입증한다—기존의 AWGN 채널과는 반대로. 용량이 유한하거나 무한이 되는 조건을 규명하고, 유한 용량 케이스에서 유일한 용량을 실현하는 출력 분포가 존재함을 증명한다.

ABSTRACT

In some applications, the variance of additive measurement noise depends on the signal that we aim to measure. For instance, additive Gaussian signal-dependent noise (AGSDN) channel models are used in molecular and optical communication. Herein we provide lower and upper bounds on the capacity of additive signal-dependent noise (ASDN) channels. The idea of the first lower bound is the extension of the majorization inequality, and for the second one, it uses some calculations based on the fact that $h(Y) > h (Y|Z)$. Both of them are valid for all additive signal-dependent noise (ASDN) channels defined in the paper. The upper bound is based on a previous idea of the authors (symmetric relative entropy) and is used for the additive Gaussian signal-dependent noise (AGSDN) channels. These bounds indicate that in ASDN channels (unlike the classical AWGN channels), the capacity does not necessarily become larger by making the variance function of the noise smaller. We also provide sufficient conditions under which the capacity becomes infinity. This is complemented by a number of conditions that imply capacity is finite and a unique capacity achieving measure exists (in the sense of the output measure).

연구 동기 및 목표

• 전송 신호에 따라 변하는 잡음 분산을 가지는 가감성 신호에 의존하는 잡음(ASDN) 채널의 용량을 분석하는 것.
• ASDN 모델에서 잡음 분산을 줄이면 항상 채널 용량이 향상되는가 하는 근본적인 질문을 다루는 것.
• 모든 ASDN 채널에 대해 유효한 날카운 분석 경계를 유도하는 것.
• ASDN 채널의 용량이 무한이 되는 충분한 조건을 규명하고, 유한 용량을 보장하며 유일한 용량을 실현하는 입력 분포를 보장하는 조건을 찾는 것.

제안 방법

• 신호에 의존하는 잡음 구조를 다루기 위해 주요화 부등식을 확장하여 첫 번째 하한을 유도한다.
• 차분 엔트로피 $ h $를 사용하여 $ h(Y) > h(Y|Z) $ 부등식을 활용하여 두 번째 하한을 유도한다.
• 이전 연구에서 유도된 대칭 상대 엔트로피 기반 상한을 응용하여, 특히 가우시안 신호에 의존하는 가우시안 잡음(AGSDN) 채널에 특화된 상한을 제안한다.
• 차분 엔트로피 및 상대 엔트로피와 같은 정보이론적 도구를 사용하여, 신호에 의존하는 잡음 하에서의 채널 행동을 분석한다.
• 출력 측도를 사용하여 용량을 실현하는 입력 분포의 존재성 및 유일성을 특성화한다.
• 다양한 잡음 분산 함수에서 용량의 행동을 분석하여, 잡음 특성에 대해 비단조화적인 의존성을 보여준다.

실험 결과

연구 질문

• RQ1 신호에 의존하는 잡음의 분산을 줄이면 항상 ASDN 채널의 용량이 증가하는가?
• RQ2 일반적인 ASDN 채널의 용량에 대해 날카운 분석 경계는 무엇인가?
• RQ3 ASDN 채널의 용량이 언제 무한이 되는가?
• RQ4 ASDN 채널에서 유일한 용량을 실현하는 입력 분포가 존재하는 조건은 무엇인가?
• RQ5 유사한 잡음 조건에서 AGSDN 채널의 용량은 고전적 AWGN 채널과 어떻게 비교되는가?

주요 결과

• ASDN 채널의 용량은 잡음 분산을 줄이더라도 반드시 증가하는 것은 아니며, 고전적 AWGN 채널의 직관과는 정반대이다.
• 두 개의 하한 경계가 도출되었는데, 하나는 주요화 부등식을 통해, 다른 하나는 차분 엔트로피 비교 $ h(Y) > h(Y|Z) $ 를 통해 유도되었으며, 이는 모든 ASDN 채널에 대해 유효하다.
• 특히 AGSDN 채널에 대해 대칭 상대 엔트로피 기반 상한이 확립되었다.
• ASDN 채널의 용량이 무한이 되는 데 필요한 충분한 조건이 규명되었다.
• 유한 용량 ASDN 채널의 경우, 논문은 용량을 실현하는 출력 측도의 존재성과 유일성을 증명하였다.
• 결과적으로, 지정된 조건 하에서, 유한 용량 영역에서 용량을 실현하는 입력 분포가 유일하게 결정됨을 보여주었다.