[논문 리뷰] Learning normalizing flows from Entropy-Kantorovich potentials

Christopher C. Finlay, Augusto Gerolin외 2명|arXiv (Cornell University)|2020. 06. 10.

Model Reduction and Neural Networks참고 문헌 7인용 수 5

한 줄 요약

이 논문은 훈련 중에 미분방정식을 풀지 않고도 연속 정규화 흐름(CNF)을 학습하기 위한 새로운 방법을 제안한다. 이는 엔트로피 정규화된 최적 운반 이론을 통해 공식화되며, 훈련 중에 미분방정식을 풀지 않고 스칼라 잠재 함수를 사용한다. 이 방법은 이중 최적화 문제를 통해 잠재 함수만 훈련함으로써 고차원에서 효율적이고 빠른 추론과 흐름 복원을 달성한다.

ABSTRACT

We approach the problem of learning continuous normalizing flows from a dual perspective motivated by entropy-regularized optimal transport, in which continuous normalizing flows are cast as gradients of scalar potential functions. This formulation allows us to train a dual objective comprised only of the scalar potential functions, and removes the burden of explicitly computing normalizing flows during training. After training, the normalizing flow is easily recovered from the potential functions.

연구 동기 및 목표

• 직접 벡터장 최적화와 ODE 해법을 피함으로써 잘 조절된 연속 정규화 흐름(CNF)을 훈련하는 데 도전하는 것.
• 엔트로피 정규화된 최적 운반 이론에 기반한 이중 공식화를 통해 CNF 훈련의 계산 부담과 불안정성을 극복하는 것.
• 스칼라 잠재 함수를 통해 흐름을 암묵적으로 매개변수화하여 고차원 밀도 추정과 생성 모델링을 가능하게 하는 것.
• 열핵 근사치를 위한 몬테카를로 적분을 사용하여 메쉬 기반의 이산화 없이 확장 가능한 훈련 절차를 제공하는 것.
• 추론 시 ODE를 풀지 않고도 훈련된 잠재 함수로부터 전체 정규화 흐름과 로그밀도를 닫힌 형태로 복원하는 것.

제안 방법

• 엔트로피 정규화된 최적 운반 이론에서 유도된 스칼라 잠재 함수의 기울기로 CNF를 공식화하며, 특히 엔트로피-칸토로비치 잠재 함수 φ와 ψ를 사용한다.
• 벡터장을 $ v_t(x) = \nabla \frac{1}{2}(\varphi_t(x) - \psi_t(x)) $ 로 정의하며, 여기서 $ \varphi_t $와 $ \psi_t $는 열핵을 통해 시간에 따라 변화하는 잠재 함수이다.
• 밀도 흐름을 $ \log \rho_t(x) = (\varphi_t(x) + \psi_t(x)) / \varepsilon $ 로 표현하여 닫힌 형태의 밀도 추정을 가능하게 한다.
• 데이터와 노이즈 샘플에 대한 확률적 최적화를 통해 ODE 통합을 피하는 이중 목표 함수를 통해 잠재 함수 $ \varphi $와 $ \psi $ 를 훈련한다.
• 열핵 연산을 몬테카를로 샘플링을 사용해 근사함으로써 확장 가능하고, 미분 가능하며 고차원 계산이 가능한 방법을 제공한다.
• 보조 변수와 $ L_2 $-정규화를 도입하여 이중 목표 함수에서 최적성 조건을 강화함으로써 훈련을 안정화시킨다.

실험 결과

연구 질문

• RQ1 최적 운반 이론의 이중 공식화를 활용하여 기저 ODE를 풀지 않고도 연속 정규화 흐름을 훈련시킬 수 있는가?
• RQ2 엔트로피 정규화된 최적 운반 이론을 어떻게 사용하여 벡터장 대신 스칼라 잠재 함수로 CNF를 매개변수화할 수 있는가?
• RQ3 열핵 연산의 몬테카를로 근사를 통해 메쉬 기반 이산화 없이도 확장 가능하고 고차원에서의 CNF 훈련이 가능한가?
• RQ4 엔트로피-칸토로비치 잠재 함수의 사용이 CNF 기반 밀도 추정에서 훈련 안정성과 일반화 능력을 얼마나 향상시키는가?
• RQ5 이중 최적화 프레임워크는 명시적인 흐름 시뮬레이션 없이도 정확한 정규화 흐름과 로그밀도를 복원할 수 있는가?

주요 결과

• 이 방법은 훈련 중에 ODE를 풀지 않고도 엔트로피-칸토로비치 잠재 함수로부터 CNF를 성공적으로 학습하여 효율적이고 확장 가능한 훈련을 가능하게 한다.
• 복원된 흐름은 체스판과 같은 이산적인 분포를 포함한 저차원 토이 분포에서 높은 품질의 샘플 생성과 밀도 추정을 달성한다.
• 엔트로피 정규화(ε=1)로 인해 추정된 로그밀도는 다소 흐릿한 모습을 띠지만, 생성된 샘플은 잘 집중되어 있고 정확하다.
• 열핵 연산을 위한 몬테카를로 적분을 사용함으로써 메쉬 기반의 이산화 없이도, 미분 가능하고 고차원에서의 벡터장 계산이 가능하다.
• 보조 변수와 $ L_2 $-정규화를 포함한 이중 최적화 프레임워크는 훈련을 안정화시키고 잠재 함수의 수렴을 향상시킨다.
• 훈련 후 밀도와 정규화 흐름을 닫힌 형태로 계산할 수 있으며, 추론 시 ODE 해법이 전혀 필요로 하지 않는다.