[논문 리뷰] A Posteriori Equivalence: A New Perspective for Design of Optimal Channel Shortening Equalizers

R. Venkataramani, M. Fatih Erden|ArXiv.org|2007. 10. 19.

Advanced Wireless Communication Techniques참고 문헌 19인용 수 10

한 줄 요약

이 논문은 사후 확률 분포가 동일한 조건을 만족시키는 것을 보장함으로써 최적의 채널 단축화 등화기 설계를 위한 새로운 프레임워크인 사후 등가성(APE)을 제안한다. 이는 최대사후확률(MAP) 검출 성능을 보장하며, 무한한 수의 이IR 등화기-대상 쌍이 완벽한 MAP 검출 성능을 달성할 수 있음을 증명한다. 등호 에너지 입력(예: q-PSK)의 경우, 단위계수 목표 조건을 갖는 MMSE 등화기는 최적의 APE 가족에 속하며, 성능 저하 없이 작동한다.

ABSTRACT

The problem of channel shortening equalization for optimal detection in ISI channels is considered. The problem is to choose a linear equalizer and a partial response target filter such that the combination produces the best detection performance. Instead of using the traditional approach of MMSE equalization, we directly seek all equalizer and target pairs that yield optimal detection performance in terms of the sequence or symbol error rate. This leads to a new notion of a posteriori equivalence between the equalized and target channels with a simple characterization in terms of their underlying probability distributions. Using this characterization we show the surprising existence an infinite family of equalizer and target pairs for which any maximum a posteriori (MAP) based detector designed for the target channel is simultaneously MAP optimal for the equalized channel. For channels whose input symbols have equal energy, such as q-PSK, the MMSE equalizer designed with a monic target constraint yields a solution belonging to this optimal family of designs. Although, these designs produce IIR target filters, the ideas are extended to design good FIR targets. For an arbitrary choice of target and equalizer, we derive an expression for the probability of sequence detection error. This expression is used to design optimal FIR targets and IIR equalizers and to quantify the FIR approximation penalty.

연구 동기 및 목표

• 최소 제곱 오차를 최소화하는 것보다 최적의 검출 성능을 중심으로 채널 단축화 등화기 설계를 재정의하기.
• 등화된 채널과 대상 채널이 동일한 최대사후확률(MAP) 검출 성능을 제공하는 조건을 규명하기.
• 성능 손실이 없는 원래 채널에 비해 성능이 떨어지지 않는 새로운 설계 방법론을 사후 등가성(APE) 기반으로 개발하기.
• 실용적인 FIR 대상 설계로 이론을 확장하고, 성능 손실를 정량화할 수 있도록 하기.
• 시퀀스 검출 오차율에 대한 닫힌 형태의 표현식을 유도하여 필터 최적화를 안내하기.

제안 방법

• 사후 등가성(APE)을 정의하여, 등화된 채널과 대상 채널의 사후 확률 분포가 동일한 조건을 만족시키는 것으로 설정한다.
• 등화기, 채널, 대상 인과응답 간의 교차상관관계 항의 동일성을 사용하여 APE를 대수적으로 특성화한다.
• 등화기, 대상, 채널 인과응답을 바탕으로 효과적 신호대잡음비(SNR)의 표현식을 유도한다.
• 목표 시스템 응답과 실제 시스템 응답 간 오차를 최소화하는 비용 함수를 최적화 문제로 설정하며, 전력 및 정규화 제약 조건을 포함한다.
• 변분법과 주파수 도메인 분석을 활용하여 최적화 문제를 해결하고, 라그랑주 승수를 포함하는 방정식 조합을 도출한다.
• IIR 해를 근사하여 FIR 대상 설계로 결과를 확장하며, FIR 근사로 인한 성능 손실를 정량화하는 보정 항을 도입한다.

실험 결과

연구 질문

• RQ1 ISI 채널에서 등화기-대상 쌍이 최적의 MAP 검출 성능을 달성하기 위해 만족해야 할 조건은 무엇인가?
• RQ2 동일한 검출 성능을 제공하는 다수의 등화기-대상 쌍이 존재할 수 있으며, 만약 그렇다면 그들은 어떻게 특성화되는가?
• RQ3 단위계수 목표 조건을 갖는 MMSE 등화기는 APE 최적 설계 가족과 어떤 관계가 있는가?
• RQ4 APE 기반 설계에서 IIR 대상 대비 FIR 대상을 사용할 경우 성능 손실는 얼마인가?
• RQ5 최적의 필터 설계를 안내하기 위해 시퀀스 검출 오차율에 대한 닫힌 형태의 표현식을 도출할 수 있는가?

주요 결과

• 무한한 수의 이IR 등화기-대상 필터 쌍이 존재하며, 이는 대상 채널용 최대사후확률(MAP) 검출기가 동시에 등화된 채널에 대해서도 최적임을 보장한다.
• 등호 에너지 입력(예: q-PSK)의 경우, 단위계수 목표 조건을 갖는 MMSE 등화기는 최적의 APE 가족에 속하며, 성능 저하 없이 작동한다.
• 최적의 이IR 등화기 및 대상 쌍은 등화기, 채널, 대상 인과응답 간의 교차상관관계가 특정 대수적 형태를 만족해야 한다는 조건으로 특성화된다.
• 시퀀스 검출 오차율은 닫힌 형태로 표현 가능하며, 이는 실용적 제약 조건 하에서 FIR 대상과 이IR 등화기의 최적화를 가능하게 한다.
• 최적의 이IR 설계를 FIR로 근사할 경우 정량화 가능한 성능 손실가 발생하지만, 철저한 파rameter 조정을 통해 이를 최소화할 수 있다.
• 최적화 문제의 해는 FIR 길이가 증가함에 따라 이론적 이IR 근사값에 수렴하며, 이는 근사 접근법의 타당성을 검증한다.