[논문 리뷰] Deep Learning Based Sphere Decoding

Mostafa Mohammadkarimi, Mehrtash Mehrabi외 2명|arXiv (Cornell University)|2018. 07. 06.

Advanced Wireless Communication Techniques참고 문헌 30인용 수 3

한 줄 요약

이 논문은 고차원 MIMO 시스템에서 고차원 변조를 사용할 때, 최대우도성능에 근접하면서도 계산 복잡도를 크게 감소시키는 딥 러닝 기반 구면 디코딩 알고리즘을 제안한다. 이 알고리즘은 깊이 있는 신경망(DNN)을 사용해 최적의 디코딩 구면 반경을 학습하며, 넓은 신호대역비(SNR) 범위에서 뛰어난 성능을 달성한다.

ABSTRACT

In this paper, a deep learning (DL)-based sphere decoding algorithm is proposed, where the radius of the decoding hypersphere is learned by a deep neural network (DNN). The performance achieved by the proposed algorithm is very close to the optimal maximum likelihood decoding (MLD) over a wide range of signal-to-noise ratios (SNRs), while the computational complexity, compared to existing sphere decoding variants, is significantly reduced. This improvement is attributed to DNN's ability of intelligently learning the radius of the hypersphere used in decoding. The expected complexity of the proposed DL-based algorithm is analytically derived and compared with existing ones. It is shown that the number of lattice points inside the decoding hypersphere drastically reduces in the DL-based algorithm in both the average and worst-case senses. The effectiveness of the proposed algorithm is shown through simulation for high-dimensional multiple-input multiple-output (MIMO) systems, using high-order modulations.

연구 동기 및 목표

• 고차원 MIMO 시스템에서 고차원 변조를 사용할 경우 기존의 구면 디코딩의 높은 계산 복잡도 문제를 해결한다.
• 과도한 격자점 탐색이나 디코딩 실패를 유발하는 고정 또는 히우리스틱 반경 선택 방법의 한계를 극복한다.
• 딥 러닝을 활용해 데이터 기반의 지능적인 반경 선택 메커니즘을 개발하여 디코딩 구면 내 격자점 수를 최소화한다.
• 매우 낮은 평균 및 최악의 경우 복잡도로 근사 최적의 최대우도 디코딩 성능을 달성한다.
• 마사이브 MIMO 및 다중 사용자 통신을 포함한 실용적인 고차원 시스템에서의 효율적 구현을 가능하게 한다.

제안 방법

• 채널 행렬과 수신 신호를 입력으로 하는 오프라인 학습을 통해 깊이 있는 신경망(DNN)을 훈련시켜 학습된 디코딩 구면 반경을 출력한다.
• DNN의 출력 결과를 구면 디코딩의 반경으로 사용하여 기존의 반경 선택 방법(예: Babai 추정 또는 반복적 반경 탐색)을 대체한다.
• 구면 디코딩 반복 횟수를 사전에 정의된 최대값으로 제한하여 SDIRS의 순차적 탐색을 피하고 복잡도를 감소시킨다.
• DNN의 보편 근사 능력을 활용해 채널 상태, 노이즈 및 최적 반경 간의 복잡한 비선형 관계를 모델링한다.
• 감마 함수와 구면 내 격자점의 확률 분포를 사용해 제안된 알고리즘의 기대 복잡도를 해석적으로 유도한다.
• 기존 방법과의 공정한 비교를 위해 DNN 계산 비용과 부분적으로 최적의 검출 후속 조치를 총 기대 복잡도 모델에 통합한다.

실험 결과

연구 질문

• RQ1 딥 러닝 신경망은 고차원 MIMO 시스템에서의 구면 디코딩에 최적의 디코딩 반경을 효과적으로 학습할 수 있는가?
• RQ2 기존 방법과 비교해 DNN 기반 반경 선택 방식은 복잡도와 비트 오류율(BER) 성능 측면에서 어떻게 성능을 내는가?
• RQ3 제안된 딥 러닝 기반 구면 디코딩 알고리즘의 이론적 기대 복잡도는 무엇이며, 시스템 파라미터에 따라 어떻게 스케일링되는가?
• RQ4 기존의 구면 디코딩 대비 DNN는 디코딩 구면 내 격자점 수를 얼마나 줄이는가?
• RQ5 고차원 MIMO 시스템에서 제안된 방법은 훨씬 낮은 계산 복잡도로 근사 최대우도 성능을 달성할 수 있는가?

주요 결과

• 제안된 딥 러닝 기반 구면 디코딩은 다양한 신호대역비(SNR) 범위에서 최대우도 디코딩(MLD)과 구분할 수 없을 정도로 높은 비트 오류율(BER) 성능을 달성한다.
• 디코딩 구면 내 격자점의 평균 수가 0.1761 이하로 감소하여 복잡도가 거의 일정하거나 선형 이하로 증가함을 나타낸다.
• 제안된 알고리즘의 기대 복잡도는 해석적으로 유도되었으며, 특히 평균 신호대역비 23 dB 이하에서는 기존 방법보다 낮음을 입증하였다.
• 제안된 알고리즘의 복잡도 지수는 [32]의 알고리즘보다 낮아 이론적으로 계산 효율성 향상을 확인하였다.
• 지능적인 반경 선택 덕분에 디코딩 실패 확률은 거의 0에 수렴하며, 다중 반경 반복이 필요 없음을 확인하였다.
• DNN 기반 접근은 최악의 경우 및 평균 복잡도를 지능적으로 줄여, 탐색해야 할 격자점 수를 최소화하는 반경 값을 학습함으로써 복잡도를 감소시켰다.