[논문 리뷰] Inference of signals with unknown correlation structure from nonlinear measurements

Jakob Knollmüller, Theo Steininger외 1명|arXiv (Cornell University)|2017. 11. 08.

Scientific Measurement and Uncertainty Evaluation참고 문헌 1인용 수 7

한 줄 요약

이 논문은 비선형이고 노이즈가 섞인 측정값에서 자동상관 구조가 알려지지 않은 신호를 복원하기 위한 빠른 변분 추론 방법을 제시한다. 단조성 응답 함수를 사용하며, 신호 표현을 재구성하고 근사 사후 분포 샘플링을 활용함으로써 효율적인 공동 추론이 가능해지며, 신호, 그들의 상관 구조, 노이즈를 함께 추론하고 불확실성 정량화를 수행한다. 이는 시뮬레이션된 데이터와 실제 전파 천문학적 데이터(예: SN 3C391)에서 입증되었다.

ABSTRACT

We present a method to reconstruct autocorrelated signals together with their autocorrelation structure from nonlinear, noisy measurements for arbitrary monotonous nonlinear instrument response. In the presented formulation the algorithm provides a significant speedup compared to prior implementations, allowing for a wider range of application. The nonlinearity can be used to model instrument characteristics or to enforce properties on the underlying signal, such as positivity. Uncertainties on any posterior quantities can be provided due to independent samples from an approximate posterior distribution. We demonstrate the methods applicability via simulated and real measurements, using different measurement instruments, nonlinearities and dimensionality.

연구 동기 및 목표

• 비선형이고 노이즈가 섞인 측정값에서 자동상관 구조가 알려지지 않은 신호의 공동 복원을 가능하게 하기 위해.
• 기존의 게이블스 샘플링 및 핵심 필터와 같은 방법의 계산적 한계를 극복하기 위해 신호 표현을 재구성함으로써 수렴 속도를 향상시키기 위해.
• 장치의 비선형성 또는 양수성 등의 신호 제약 조건을 모델링할 수 있도록 임의의 단조성 비선형성으로의 확장 가능성을 제공하기 위해.
• 근사 사후 분포로부터 독립적인 샘플을 사용하여 어떤 사후 양에 대해서도 불확실성 추정을 제공하기 위해.
• 다양한 이미징 문제에 적용 가능성을 입증하기 위해, 알려지지 않은 노이즈 수준을 가진 실제 세계의 전파 간섭계 데이터를 포함한 분야에 걸쳐 적용 가능성을 보여주기 위해.

제안 방법

• 정보장 이론(IFT)의 프레임워크 내에서 추론 문제를 설정함으로써 차원과 기기 간 일반화 가능성을 확보한다.
• 간접적 신호 표현을 대체로 데이터에 관련 매개변수를 직접 전달하는 방식으로 전환함으로써 수렴 속도를 크게 향상시킨다.
• 진짜 사후 분포와 근사 사후 분포 간의 쿨백-라이블러(KL) 발산의 통계적 추정치를 최소화하는 변분 추론을 적용한다.
• 독립적인 사후 샘플을 사용하여 재구성 정밀도나 상대 오차와 같은 파생된 양에 대한 불확실성 추정을 수행한다.
• 노이즈 공분산 추정을 추론 과정의 일부로 통합함으로써 재구성 중 자가 캘리브레이션을 가능하게 한다.
• 유일한 해와 최적화의 안정성을 보장하기 위해 비선형성을 국소적 단조성 함수로 제한한다.

실험 결과

연구 질문

• RQ1 계산적으로 효율적인 방법이 비선형이고 노이즈가 섞인 측정값에서 자동상관 구조가 알려지지 않은 신호를 함께 추론할 수 있는가?
• RQ2 신호 표현의 재구성으로 기존 핵심 필터 접근법의 수렴 속도를 어떻게 크게 향상시킬 수 있는가?
• RQ3 어느 정도까지 임의의 단조성 비선형성을 추론 프레임워크에 통합할 수 있는가? 이는 장치 응답을 모델링하거나 신호 성질을 강제하기 위함이다.
• RQ4 상대 재구성 정밀도와 같은 복잡한 사후 양에 대해 사후 샘플링을 통해 신뢰할 수 있는 불확실성 추정을 얻을 수 있는가?
• RQ5 이 방법은 알려지지 않은 노이즈 수준을 가진 실제 간섭계 데이터에서 고다이나믹 레인지 신호를 성공적으로 복원할 수 있는가?

주요 결과

• 제안된 방법은 이전의 핵심 필터 구현보다 극적으로 속도 향상을 이룩하여 더 크고 복잡한 문제에의 적용 가능성을 열어준다.
• 초신성 잔해 3C391의 재구성은 낮은 강도 영역에서도 날카운 충격파와 섬유질 구조를 고공간 해상도로 성공적으로 복원한다.
• 100개의 사후 샘플에서 유도된 상대 불확실성 추정치는 낮은 강도 영역에서 높은 불확실성과 강한 발광 영역에서 낮은 불확실성을 보이며 신뢰할 수 있는 오차 정량화를 확인한다.
• 추론 과정 중에 노이즈 공분산을 자가 캘리브레이션함으로써, 장치 노이즈 수준에 대한 사전 지식이 없더라도 정확한 재구성을 가능하게 한다.
• 지수 비선형성을 사용함으로써 신호의 양수성을 강제하고, 로그노멀 복사율 분포를 모델링할 수 있으며, 이는 전파 강도 재구성에 있어 핵심적이다.
• 사후 샘플링은 알고리즘이 수치적으로 안정적인 재구성을 제공하고 발산을 피한다는 것을 확인한다. 특히 노이즈 정밀도에 대한 사전 분포를 신중히 선택함으로써(모드 1e-5, 평균 100인 역감마 분포) 이를 달성한다.