[논문 리뷰] Compressive Sensing Over Networks

Soheil Feizi, Muriel Médard외 1명|arXiv (Cornell University)|2010. 12. 04.

Cooperative Communication and Network Coding인용 수 7

한 줄 요약

이 논문은 네트워크 기반 소스 부호화 및 채널 부호화에서 복잡도를 감소시키기 위해 압축 감지 기반으로 압축률 또는 용량 손실과의 트레이드오프를 고려한 새로운 기법인 희소 분산 압축 및 희소 채널 부호화를 제안한다. 복잡도가 높은 최적의 디코더 대신 볼록 최적화를 사용하여 신호 복원을 수행함으로써, 상관된 소스 및 고신호대역비(Gaussian) 채널 환경에서 압축률, 용량, 계산 비용 간에 증명 가능한 트레이드오프를 제공하는 효율적이고 모odularized된 디코딩을 가능하게 한다.

ABSTRACT

In this paper, we demonstrate some applications of compressive sensing over networks. We make a connection between compressive sensing and traditional information theoretic techniques in source coding and channel coding. Our results provide an explicit trade-off between the rate and the decoding complexity. The key difference of compressive sensing and traditional information theoretic approaches is at their decoding side. Although optimal decoders to recover the original signal, compressed by source coding have high complexity, the compressive sensing decoder is a linear or convex optimization. First, we investigate applications of compressive sensing on distributed compression of correlated sources. Here, by using compressive sensing, we propose a compression scheme for a family of correlated sources with a modularized decoder, providing a trade-off between the compression rate and the decoding complexity. We call this scheme Sparse Distributed Compression. We use this compression scheme for a general multicast network with correlated sources. Here, we first decode some of the sources by a network decoding technique and then, we use a compressive sensing decoder to obtain the whole sources. Then, we investigate applications of compressive sensing on channel coding. We propose a coding scheme that combines compressive sensing and random channel coding for a high-SNR point-to-point Gaussian channel. We call this scheme Sparse Channel Coding. We propose a modularized decoder providing a trade-off between the capacity loss and the decoding complexity. At the receiver side, first, we use a compressive sensing decoder on a noisy signal to obtain a noisy estimate of the original signal and then, we apply a traditional channel coding decoder to find the original signal.

연구 동기 및 목표

• 네트워크 시스템의 소스 및 채널 부호화에서 압축 감지 기반 정보이론을 전통적인 정보이론과 연결한다.
• 최적의 소스 부호화 방식의 높은 디코딩 복잡도 문제를 해결하기 위해 저복잡도의 압축 감지 디코더로 대체한다.
• 상관된 소스의 분산 압축에서 압축률과 디코딩 복잡도 간의 명시적 트레이드오프를 제공한다.
• 멀티캐스트 네트워크에서 네트워크 부호화와 압축 감지를 융합하여 상관된 소스를 효율적으로 복원할 수 있는 모odularized 디코더를 개발한다.
• 고신호대역비(Gaussian) 채널에서 용량 손실과 디코딩 복잡도 간의 트레이드오프를 이중 단계 디코딩 프로세스를 통해 실현한다.

제안 방법

• 압축 감지를 활용한 상관된 소스를 위한 희소 분산 압축을 제안하여, 조정 가능한 복잡도를 갖는 모odularized 디코딩을 가능하게 한다.
• 이중 단계 디코딩 프로세스를 적용한다: 먼저 압축 감지 디코더를 사용해 희소 신호의 노이즈 있는 추정치를 복원하고, 그 다음 비제로 지지부를 대상으로 전통적인 채널 디코더를 적용한다.
• 서브-N 측정값으로부터 희소 신호의 안정적 복원을 보장하기 위해 무작위 행렬 이론과 제한된 조화성 성질(Restricted Isometry Property, RIP)을 사용한다.
• 희소 복원 문제의 볼록 타원화로 L1 노름의 최소화를 위한 선형 프로그래밍 설정을 적용한다.
• 부분 소스 디코딩 이후 압축 감지를 적용하여 전체 상관된 소스 집합을 복원하는 네트워크 부호화 프레임워크를 제안한다.
• 성능를 신호대역비(SNR), 희소성, 측정 비율 기준으로 정량화하기 위해 무작위 부호화 및 가우시안 근사 기법을 사용하여 오차 확률의 경계를 유도한다.

실험 결과

연구 질문

• RQ1 압축 감지를 사용하여 상관된 소스의 분산 소스 부호화에서 디코딩 복잡도를 감소시키면서도 압축 효율성을 유지할 수 있는가?
• RQ2 상관된 소스가 존재하는 멀티캐스트 네트워크에서 압축률과 디코딩 복잡도 간의 트레이드오프는 어떠한가?
• RQ3 고신호대역비(Gaussian) 채널에서 압축 감지를 랜덤 채널 부호화와 융합하여 디코딩 복잡도를 감소시킬 수 있는가?
• RQ4 압축 감지와 채널 디코딩을 융합한 이중 단계 디코더가 용량 손실과 계산 복잡도 간의 트레이드오프를 달성할 수 있는가?
• RQ5 이러한 하이브리드 기법의 오차 확률 및 신호대역비(SNR) 기준 성능 경계는 어떻게 도출할 수 있는가?

주요 결과

• 희소 분산 압축은 상관된 소스에 대해 압축률과 디코딩 복잡도 간에 조절 가능한 트레이드오프를 제공하는 모odularized 디코더를 가능하게 한다.
• 네트워크 부호화와 압축 감지를 융합함으로써 멀티캐스트 네트워크에서 상관된 소스를 신뢰성 있게 복원할 수 있으며, 최적의 방법에 비해 디코딩 복잡도를 감소시킨다.
• 희소 채널 부호화는 이중 단계 수신기로 구성되며, 첫 번째 단계에서 압축 감지 디코더를 사용해 희소 신호를 추정하고, 두 번째 단계에서 비제로 좌표에 대해 전통적인 채널 디코더를 적용한다.
• 이 방법은 용량 손실과 디코딩 복잡도 간의 트레이드오프를 달성하며, 더 높은 용량 손실을 감수함으로써 디코딩 복잡도를 크게 감소시킬 수 있다.
• 오차 확률 경계 분석 결과, 충분히 높은 신호대역비(SNR)와 적절한 측정 비율을 확보할 경우 오차 확률이 지수적으로 감소함을 확인하여 신뢰성 있는 통신이 가능하다.
• 이론적 분석을 통해 제안된 기법이 정보이론적 한계에 매우 가까운 성능를 달성하면서도 실용적인 디코딩 복잡도를 유지함을 확인하였다.