[논문 리뷰] Trumpets: Injective Flows for Inference and Inverse Problems

Konik Kothari, AmirEhsan Khorashadizadeh외 2명|arXiv (Cornell University)|2021. 02. 20.

Generative Adversarial Networks and Image Synthesis참고 문헌 38인용 수 6

한 줄 요약

이 논문은 저차원 잠복 공간에서 점진적으로 차원을 증가시키는 새로운 종류의 단사(normalizing) 플로우인 Trumpets를 소개한다. 이는 빠른 훈련과 정확한 우도 평가를 가능하게 한다. 단사 결합층과 이중 단계 훈련 절차를 결합함으로써 Trumpets는 표준 플로우와 비슷한 생성 모델링 성능을 달성하면서도 훈련 속도가 수 개의 주기수 빠르며, 복소 센싱 및 제한된 각도 CT와 같은 역문제에서 효율적인 베이지안 추론과 불확실성 정량화를 가능하게 한다.

ABSTRACT

We propose injective generative models called Trumpets that generalize invertible normalizing flows. The proposed generators progressively increase dimension from a low-dimensional latent space. We demonstrate that Trumpets can be trained orders of magnitudes faster than standard flows while yielding samples of comparable or better quality. They retain many of the advantages of the standard flows such as training based on maximum likelihood and a fast, exact inverse of the generator. Since Trumpets are injective and have fast inverses, they can be effectively used for downstream Bayesian inference. To wit, we use Trumpet priors for maximum a posteriori estimation in the context of image reconstruction from compressive measurements, outperforming competitive baselines in terms of reconstruction quality and speed. We then propose an efficient method for posterior characterization and uncertainty quantification with Trumpets by taking advantage of the low-dimensional latent space.

연구 동기 및 목표

• 표준 정규화 플로우의 높은 계산 비용 문제를 해결한다. 이는 이중사상이며 전체 차원의 잠복 공간이 필요하다.
• 정확한 역함수와 우도 평가를 유지하면서도 훈련 시간을 크게 줄인 생성 모델을 개발한다.
• 낮은 차원의 잠복 공간을 사용하여 애매하게 정의된 역문제에서 효율적인 베이지안 추론과 불확실성 정량화를 가능하게 한다.
• 단사 플로우를 활용해 이미지 복원과 같은 후속 작업에서 정확한 역함수 계산과 우도 계산을 빠르게 지원한다.
• 압축 센싱 및 제한된 각도 컴퓨터 톰그래피와 같은 실제 응용 분야에서 Trumpets의 유용성을 입증한다.

제안 방법

• 낮은 차원의 잠복 공간에서 더 높은 차원의 데이터 공간으로 매핑하는 단사 결합층을 제안하여, 구성상 단사성을 보장한다.
• 빠르고 분석적 역함수와 접근 가능한 자코비안 행렬식을 갖춘 레이어를 설계하여 효율적인 우도 계산을 가능하게 한다.
• 이중 단계 훈련 절차를 사용한다: 먼저 단사 플로우 구성 요소를 훈련하고, 그 다음 범위에서의 이중사상 변환을 함께 최적화한다.
• 훈련된 Trumpet 생성기를 베이지안 역문제에서 사전확률로 활용하여, 투사 경사 하강법을 통해 최대 사후확률(정점) 추정을 실시한다.
• 낮은 차원의 잠복 공간에서 변분 추론을 사용해 사후분포를 근사함으로써 불확실성 정량화를 수행한다.
• 생성기의 빠른 역함수를 활용해 최적화 중에 투영을 효율적으로 계산함으로써 계산 오버헤드를 감소시킨다.

실험 결과

연구 질문

• RQ1 표준 정규화 플로우보다 훨씬 빠른 훈련 시간을 확보하면서도 빠른 역함수 계산과 접근 가능한 우도를 유지할 수 있는 단사 플로우를 설계할 수 있는가?
• RQ2 낮은 차원의 잠복 공간을 갖는 단사 플로우가 압축 센싱 및 제한된 각도 단층 촬영에서 재구성 품질과 속도를 향상시킬 수 있는가?
• RQ3 낮은 차원의 잠복 공간을 갖는 생성 사전을 사용할 경우, 역문제에서 불확실성 정량화를 어떻게 효율적으로 수행할 수 있는가?
• RQ4 표준 플로우보다 수 개의 주기수 더 빠른 훈련 속도를 달성하면서도 생성 품질을 유지할 수 있는 정도는 어느 정도인가?
• RQ5 단사 플로우 아키텍처가 애매하게 정의된 역문제에서 정확한 우도 평가와 효율적인 최대 사후확률 추정을 지원할 수 있는가?

주요 결과

• Trumpets는 Glow와 같은 표준 정규화 플로우보다 수 개의 주기수 더 빠르게 훈련되며, CelebA 데이터셋에서 유사하거나 더 높은 샘플 품질을 달성한다.
• 정확한 우도 평가와 정확한 빠른 역함수 계산을 달성하여, 베이지안 추론 파이프라인에서 효율적으로 활용할 수 있다.
• 압축 센싱 및 제한된 각도 CT에서 Trumpet 기반의 MAP 추정은 재구성 품질과 속도 면에서 경쟁력 있는 기준보다 뛰어나다.
• 낮은 차원의 잠복 공간에서 사후분포 근사를 통한 불확실성 정량화는 물리적 직관과 일치하는 의미 있는 공간 및 주파수 도메인의 불확실성 패턴을 도출한다.
• 사후 평균 절대편차의 푸리에 스펙트럼은 제한된 시야 CT에서 누락된 각도에 해당하는 불확실성 증가의 콘 형태를 보여주며, 이는 방법의 해석 가능성과 일치함을 검증한다.
• 낮은 차원의 잠복 공간 덕분에 변분 사후 근사가 효율적으로 수행되어 전체 공간 방법 대비 계산 비용을 크게 감소시킨다.