[논문 리뷰] Flows for Flows: Training Normalizing Flows Between Arbitrary Distributions with Maximum Likelihood Estimation

Samuel Klein, J. A. Raine외 1명|arXiv (Cornell University)|2022. 11. 04.

Model Reduction and Neural Networks인용 수 6

한 줄 요약

이 논문은 기저 밀도를 다른 정규화 흐름으로 매개변수화하여 정확한 최대우도 추정을 통해 임의의 두 분포 사이의 정규화 흐름을 훈련하는 'Flows for Flows'를 소개한다. 이 방법은 특히 조건부 분포에 대해 매우 효과적인 탄력적이고 연속적인 운반 맵을 가능하게 하며, 명시적 정규화 없이도 불연속적이거나 복잡한 분포를 모델링하는 데서 표준 흐름보다 뛰어난 성능을 발휘한다.

ABSTRACT

Normalizing flows are constructed from a base distribution with a known density and a diffeomorphism with a tractable Jacobian. The base density of a normalizing flow can be parameterised by a different normalizing flow, thus allowing maps to be found between arbitrary distributions. We demonstrate and explore the utility of this approach and show it is particularly interesting in the case of conditional normalizing flows and for introducing optimal transport constraints on maps that are constructed using normalizing flows.

연구 동기 및 목표

• 밀도가 사전에 알려져 있지 않은 경우에도 임의의 두 확률 분포 사이에서 정규화 흐름을 훈련시킬 수 있도록 하는 것.
• 표준 정규 기저 분포에서 발생하는 문제를 피하기 위해 기저 밀도로 흐름을 사용하여 복잡하거나 불연속적인 분포를 개선해 모델링하는 것.
• 조건부 설정에서, 서로 다른 조건 값에 대응하는 분포 간의 맵을 학습하는 데 Flows for Flows를 활용하는 것.
• 최적 운반 제약과 같은 정규화 전략을 탐구하여 학습된 운반 맵의 의미적 일관성을 향상시키는 것.
• 고차원 및 도메인에 종속되지 않는 설정에서 Flows for Flows의 유용성을 입증하는 것—고에너지 물리학 및 확산 모델링과 같은 응용 분야 포함.

제안 방법

• 정규화 흐름의 기저 밀도를 다른 훈련된 정규화 흐름으로 대체하여, 두 임의의 데이터 분포 사이의 직접적인 맵을 학습할 수 있도록 모델을 구성한다.
• 변수 변화 공식을 사용하여 최대우도 추정으로 모델을 훈련시키며, 입력 및 출력 분포의 로그우도를 모두 계산한다.
• 조건부 분포의 경우, 흐름이 조건 값 간의 차이에 따라 조건부로 설정되어, 서로 다른 조건에서의 분포 간에 연속적인 변환을 가능하게 한다.
• 양방향 훈련 설정을 사용하여, $ f_{\text{flow}}^{-1} $과 $ f_{\text{flow}} $ 모두가 두 분포의 데이터를 기반으로 훈련되어, 기저 밀도의 품질에 대한 의존도를 줄인다.
• 학습 손실에 최적 운반 페널티를 도입하여 점의 이동을 최소화하도록 유도함으로써, 학습된 맵의 의미적 일관성을 향상시킨다.
• 프레임워크는 nflows 라이브러리 위에 구축된 ffflows 패키지로 구현되어 있어, 임의의 분포 간의 흐름을 모듈러하고 재사용 가능한 방식으로 구성할 수 있다.

실험 결과

연구 질문

• RQ1 밀도가 알려져 있지 않은 경우에도 최대우도 추정을 통해 두 임의의 분포 사이에서 정규화 흐름을 효과적으로 훈련시킬 수 있는가?
• RQ2 표준 정규 기저 분포와 비교해 흐름을 기저 밀도로 사용할 경우, 복잡하거나 불연속적인 분포의 모델링 성능가 어떻게 향상되는가?
• RQ3 조건부 분포 간의 운반 맵을 학습하는 데서 Flows for Flows가 표준 조건부 정규화 흐름보다 어느 정도 뛰어나게 성능을 발휘하는가?
• RQ4 최적 운반 제약과 같은 명시적 정규화가 학습된 운반 맵의 의미적 일관성을 향상시킬 수 있는가?
• RQ5 양방향 훈련 설정은 Flows for Flows 프레임워크에서 기저 밀도 품질에 대한 의존도를 어느 정도 줄이는가?

주요 결과

• Flows for Flows는 불연속성까지 포함된 임의의 분포 사이에서 연속적이고 역행 가능한 맵을 성공적으로 학습한다. 예를 들어 네 개의 겹치는 원 분포와 같은 경우에도 성능이 뛰어나다.
• 조건부 설정에서 표준 조건부 정규화 흐름보다 성능이 뛰어나며, 학습된 맵의 연속성 덕분에 이상치 샘플 수가 줄어든다.
• 명시적 정규화 없이도 Flows for Flows 모델은 색상별로 표시된 점 대응 관계를 통해 내재된 의미적 일관성이 있는 맵을 학습한다.
• 시험 설정에서 최적 운반 페널티를 포함시켜도 성능에 거의 영향을 주지 않아, 흐름 아키텍처 자체가 이미 의미 있는 운반을 촉진하고 있음을 시사한다.
• 양방향 훈련은 기저 밀도의 품질에 대한 의존도를 줄여 학습된 맵의 안정성과 일반화 능력을 향상시킨다.
• ffflo스 패키지는 임의의 조건부 분포 간의 흐름을 쉽게 구성할 수 있게 하여 재현 가능성 향상과 새로운 응용 분야로의 확장 가능성을 높인다.