[논문 리뷰] A Hierarchical Bayesian Model for Frame Representation

Lotfi Chaâri, Jean‐Christophe Pesquet외 3명|arXiv (Cornell University)|2009. 11. 15.

Image and Signal Denoising Methods참고 문헌 58인용 수 6

한 줄 요약

이 논문은 신호 및 영상 처리에서 비가역적인 합성 연산자로 인해 계수들이 관측되지 않을 경우, 프레임 계수와 그 초모수를 추정하기 위한 계층적 베이지안 모델을 제안한다. 하이브리드 마르코프 체인 몬테 카를로(MCMC) 알고리즘을 사용하여 결합 사후분포에서 표본을 추출하며, 이는 노이즈가 있고 오차가 유한한 조건에서도 정확한 추정을 가능하게 한다. 특히 희소성 모델링을 위한 일반화된 가우시안(GG) 사전분포를 사용할 경우, 변분법 및 위너 방법보다 우수한 성능을 보이며 영상 노이즈 제거에 효과적이다.

ABSTRACT

In many signal processing problems, it may be fruitful to represent the signal under study in a frame. If a probabilistic approach is adopted, it becomes then necessary to estimate the hyper-parameters characterizing the probability distribution of the frame coefficients. This problem is difficult since in general the frame synthesis operator is not bijective. Consequently, the frame coefficients are not directly observable. This paper introduces a hierarchical Bayesian model for frame representation. The posterior distribution of the frame coefficients and model hyper-parameters is derived. Hybrid Markov Chain Monte Carlo algorithms are subsequently proposed to sample from this posterior distribution. The generated samples are then exploited to estimate the hyper-parameters and the frame coefficients of the target signal. Validation experiments show that the proposed algorithms provide an accurate estimation of the frame coefficients and hyper-parameters. Application to practical problems of image denoising show the impact of the resulting Bayesian estimation on the recovered signal quality.

연구 동기 및 목표

• 합성 연산자가 비단사임에도 불구하고 계수들이 관측되지 않을 경우 계수와 초모수를 추정하는 문제를 해결하기 위해.
• 유한한 노이즈와 탄력적인 사전분포, 특히 희소 표현을 위한 일반화된 가우시안(GG) 사전분포를 수용할 수 있는 베이지안 프레임워크를 개발하기 위해.
• 복잡한 고차원 사후분포에서 계수와 초모수의 결합 사후 추론을 위한 효율적인 하이브리드 MCMC 표본 추출 알고리즘을 설계하기 위해.
• 합성 및 실제 데이터를 활용한 검증을 통해 다양한 노이즈 조건 하에서 영상 노이즈 제거에 특화된 성능을 입증하기 위해.
• SNR 및 SSIM 측정 기준으로 기존의 위너 및 변분법과 비교해 제안된 MMSE 추정기의 우수성을 입증하기 위해.

제안 방법

• 계수에 알려지지 않은 초모수를 가진 일반화된 가우시안(GG) 사전분포를 할당하는 계층적 베이지안 모델을 수립한다.
• 최대 거리 제약 조건을 통해 신호 관측값을 유한한 편차로 모델링하여 ℓp 구 내의 가능도 함수를 도출한다.
• 계수와 초모수의 결합 사후분포를 유도함으로써 완전한 베이지안 추론을 가능하게 한다.
• 복잡한 고차원 사후분포에서 표본을 추출하기 위해 지그재그 및 메트로폴리스-하스팅스 단계를 조합한 하이브리드 MCMC 알고리즘을 제안한다.
• 생성된 표본을 활용해 경험적 평균을 통해 계수와 초모수의 MMSE 추정치를 계산한다.
• 유한 오차 모델에서 노이즈 벡터를 생성하기 위해 정리 A.2를 활용해 단위 ℓp 구에서 표본을 추출한다.

실험 결과

연구 질문

• RQ1 합성 연산자가 비단사적이어서 계수가 직접 관측되지 않을 경우, 어떻게 안정적으로 계수를 추정할 수 있는가?
• RQ2 유한한 노이즈 조건 하에서 베이지안 프레임워크에서 계수 사전분포의 초모수를 효과적으로 학습하는 가장 좋은 방법은 무엇인가?
• RQ3 알려지지 않은 초모수를 가진 일반화된 가우시안 사전분포를 사용할 경우, 희소 신호 표현과 추정에 어떤 개선이 이루어지는가?
• RQ4 제안된 MCMC 기반 추정법은 영상 복원에서 기존의 위너 및 변분법과 비교해 얼마나 뛰어난 성능을 보이는가?
• RQ5 이 프레임워크는 추가 노이즈 외의 선형 열화 모델(예: 블러)이나 다른 사전분포 모델로 일반화될 수 있는가?

주요 결과

• 제안된 MCMC 알고리즘은 노이즈가 있고 관측이 불완전한 상황에서도 계수와 초모수를 정확하게 추정할 수 있다.
• 영상 노이즈 제거에서 p=3 및 η=700일 때 SNR는 19.29 dB, SSIM는 0.771을 기록하여 위너 및 변분법보다 뛰어난 성능을 보였다.
• p=1 및 η=300000일 경우 SNR는 18.11 dB, SSIM는 0.755에 도달하여 다양한 노이즈 수준과 프레임 모델에 대해 강건함을 입증했다.
• 일반화된 가우시안 사전분포를 통해 희소성을 효과적으로 모델링하여 로그-볼록 대안보다 더 나은 신호 복원 성능을 제공한다.
• 이 프레임워크는 다른 사전분포 가족으로 확장 가능하며 블러와 같은 선형 열화 모델로도 적용 가능하므로 광범위한 적용 가능성을 지닌다.