[논문 리뷰] Deep Learning Based Joint Pilot Design and Channel Estimation for Multiuser MIMO Channels

Chang-Jae Chun, Jae‐Mo Kang외 1명|arXiv (Cornell University)|2018. 12. 10.

Advanced MIMO Systems Optimization참고 문헌 6인용 수 5

한 줄 요약

이 논문은 다중 사용자 MIMO 시스템을 위한 딥 러닝 기반의 공동 파ilot 설계 및 채널 추정 방식을 제안한다. 이는 엔드 투 엔드 훈련을 통해 비직교 파ilot와 비선형 채널 추정기를 동시에 최적화하여 평균 제곱 오차(MSE)를 최소화한다. 이 방법은 특히 고신호대역비(SNR)에서 기존의 선형 LMMSE 기반 방법보다 뛰어난 성능을 보이며, 학습된 파ilot 신호와 순차적 간섭 제거(SIC) 기반의 딥 뉴럴 네트워크 추정기를 통해 사용자 간 간섭을 효과적으로 억제한다.

ABSTRACT

In this paper, we propose a joint pilot design and channel estimation scheme based on the deep learning (DL) technique for multiuser multiple-input multiple output (MIMO) channels. To this end, we construct a pilot designer using two-layer neural networks (TNNs) and a channel estimator using deep neural networks (DNNs), which are jointly trained to minimize the mean square error (MSE) of channel estimation. To effectively reduce the interference among the multiple users, we also use the successive interference cancellation (SIC) technique in the channel estimation process. The numerical results demonstrate that the proposed scheme considerably outperforms the state-of-the-art linear minimum mean square error (LMMSE) based channel estimation scheme.

연구 동기 및 목표

• 파일럿 길이 L가 사용자 안테나 총 수 M보다 작은 경우, 기존의 직교 파ilot 설계가 실패하는 다중 사용자 MIMO 시스템에서 낮은 스펙트럼 효율성 문제를 해결한다.
• LMMSE와 같은 전통적인 선형 추정기의 한계를 극복하며, 이는 성능 제한을 초래하고 MSE를 직접 최소화하지 못한다.
• 채널 추정의 MSE를 직접 최소화하기 위해 파ilot 설계와 채널 추정을 동시에 최적화하는 공동 최적화 프레임워크를 개발한다.
• 비직교 파ilot 조건과 높은 간섭 환경에서도 업링크 다중 사용자 MIMO 시스템에서 효과적인 채널 추정을 가능하게 한다. 특히 L < M 조건에서 유의미하다.
• 선형 방법에 비해 MSE 성능과 간섭 억제 측면에서 비선형 딥 러닝 기반 접근법의 우수성을 입증한다.

제안 방법

• 다중 사용자에 대한 비직교 파ilot 신호를 생성하기 위해 이중층 신경망(TNN)을 구축하며, 투자 경량화를 위해 프로젝티드 그래디언트 디센트를 통해 전력 제약 조건을 강제한다.
• 비선형 채널 추정을 위한 딥 뉴럴 네트워크(DNN)를 설계하며, 파ilot 생성 네트워크와 함께 공동 훈련하여 채널 추정의 MSE를 최소화한다.
• 채널 추정기의 DNN에 순차적 간섭 제거(SIC)를 통합하여 추정 과정에서 사용자 간 간섭을 억제한다.
• 모든 시스템을 확률적 경량화 하강법을 사용해 엔드 투 엔드로 훈련하며, 손실 함수는 훈련 데이터에 대한 MSE의 표본 평균으로 정의된다.
• 각 경량화 단계 이후에 업데이트된 파ilot 벡터를 타당한 전력 영역에 투영함으로써 파ilot 신호의 전력 제약 조건을 강제한다.
• 채널과 노이즈 샘플을 알려진 통계에서 추출한 후행 훈련을 통해 다양한 실제 채널 환경에 적용 가능한 시스템을 구현한다.

실험 결과

연구 질문

• RQ1 L < M 조건에서 딥 러닝 기반의 공동 파ilot 설계 및 채널 추정 프레임워크가 기존의 선형 LMMSE 기반 방법보다 우월한가?
• RQ2 엔드 투 엔드 훈련을 통해 비직교 파ilot 시퀀스를 학습함으로써 히وري스틱 또는 직교 파ilot 설계에 비해 더 나은 MSE 성능을 달성할 수 있는가?
• RQ3 비선형 DNN 기반 채널 추정기가 업링크 다중 사용자 MIMO 환경에서 선형 추정기 대비 사용자 간 간섭을 얼마나 효과적으로 줄일 수 있는가?
• RQ4 신호대역비(SNR)가 증가함에 따라 제안된 방법과 최신 선형 방법 간의 성능 격차는 어떻게 변화하는가?
• RQ5 딥 러닝을 통한 파ilot와 추정기의 공동 최적화가 파ilot 설계의 선형성 또는 직교성에 대한 가정 없이 더 낮은 MSE를 달성할 수 있는가?

주요 결과

• 제안된 딥 러닝 기반 방법은 특히 고신호대역비(SNR)에서 기존의 최신 선형 LMMSE 기반 방법보다 채널 추정의 MSE 측면에서 뚜렷한 우월성을 보였다.
• 제안된 방법의 MSE는 약 20개의 훈련 에포크 이후 안정적으로 수렴하여 공동 네트워크의 효과적이고 신뢰할 수 있는 훈련을 확인했다.
• 제안된 방법은 단 약 3개의 에포크 만에 선형 기반 대비 성능을 뛰어넘었으며, 효과적인 파ilot 및 추정 패tern의 신속한 학습을 보여주었다.
• 신호대역비(SNR)가 높아질수록 제안된 방법과 선형 기반 방법 간의 성능 격차가 커지며, 이는 비선형 추정기가 고SNR 조건을 더 효과적으로 활용하여 간섭을 억제함을 시사한다.
• 학습된 파ilot 신호는 비직교적이며, 채널 추정기는 비선형적임을 확인하여, 본 방법이 이전 연구에서 흔히 사용되는 직교성 및 선형성의 가정을 성공적으로 피했음을 증명한다.
• DNN 기반 추정기 내부에 순차적 간섭 제거(SIC)를 도입함으로써 사용자 간 간섭이 효과적으로 감소하였으며, 이는 향상된 MSE 성능에 기여하였다.