[논문 리뷰] Maximum Mean Discrepancy Gradient Flow

Michael Arbel, Anna Korba외 2명|arXiv (Cornell University)|2019. 06. 11.

Generative Adversarial Networks and Image Synthesis참고 문헌 49인용 수 37

한 줄 요약

Wasserstein 그래디언트 플로우를 MMD 위에 도입하고, 전역 최적해로의 수렴을 분석하며, 실용적 구현을 위한 노이즈 정규화 입자 알고리즘을 제안한다.

ABSTRACT

We construct a Wasserstein gradient flow of the maximum mean discrepancy (MMD) and study its convergence properties. The MMD is an integral probability metric defined for a reproducing kernel Hilbert space (RKHS), and serves as a metric on probability measures for a sufficiently rich RKHS. We obtain conditions for convergence of the gradient flow towards a global optimum, that can be related to particle transport when optimizing neural networks. We also propose a way to regularize this MMD flow, based on an injection of noise in the gradient. This algorithmic fix comes with theoretical and empirical evidence. The practical implementation of the flow is straightforward, since both the MMD and its gradient have simple closed-form expressions, which can be easily estimated with samples.

연구 동기 및 목표

• MMD를 목적 함수로 사용하여 Wasserstein 거리로 장착된 확률 측도 공간에서 그래디언트 플로우를 동기화하고 구성한다.
• 목표 분포를 향해 MMD의 연속 시간 및 이산 시간(오일러) 그래디언트 플로우를 도출하고 분석한다.
• 전역 최적해로의 수렴 조건을 조사하고 비볼록 설정에서의 제약/장벽을 식별한다.
• 실용적 수렴을 개선하기 위해 그래디언트에 노이즈를 주입하는 정규화 전략을 제안하고 이론적 근거를 제시한다.

제안 방법

• 고정된 타깃 분포 µ와 가변 분포 ν 사이의 MMD를 재현 커널 힐베르트 공간에서 정의하고, F(ν)=1/2 MMD^2(µ,ν)로 표현한다.
• 속도 벡터 Vt=−∇fµ,νt로 연속성 방정식을 통해 P2(X)상의 그래디언트 플로우를 형식화하고, ∂tνt = div(νt ∇fµ,νt)을 얻는다.
• F(νt)가 흐름에 따라 감소함을 보이고, dF(νt)/dt = −∫ ||∇fµ,νt(x)||^2 dνt(x)이다.
• 전방 오일러 이산화 νn+1=(I−γ∇fµ,νn)#νn)를 제공하고 F(νn)가 감소하는 조건을 확립한다.
• 정규화된 스킴으로 Xn+1 = Xn − γ ∇fµ,νn(Xn + βnUn)으로 노이즈가 포함된 그래디언트를 도입한다.
• µ와 νn의 샘플을 사용하여 Xi n+1 = Xi n − γ ∇fˆµ,ˆνn(Xi n + βnUi n)을 업데이트하는 실용적인 입자 기반 알고리즘을 제시하고 그 수렴을 분석한다.

실험 결과

연구 질문

• RQ1 MMD Wasserstein 그래디언트 플로우가 전역 최적해로 수렴하는 조건은 무엇인가?
• RQ2 F의 비볼록성으로 인한 문제를 실제로 어떻게 완화할 수 있는가?
• RQ3 노이즈를 통한 어떤 정규화가 전역 수렴을 최적의 해를 바꾸지 않으면서 가장 잘 촉진하는가?
• RQ4 입자 기반 샘플링 구현이 모집단 흐름을 어떻게 근사하고, 수렴 보장은 무엇인가?

주요 결과

• W2에서의 MMD 그래디언트 플로우는 잘 정의되며 흐름에 따라 F가 라이야푸 감소를 보인다.
• 전방-오일러 스킴은 스텝 사이즈 γ가 충분히 작을 때(F로 감소) 작동한다(γ ≤ 2/3L).
• F는 일반적으로 변위 볼록(displacement convex)이 아니며, Λ-변위 볼 convex로 간주되어 수렴 분석과 잠재적 장벽이 존재한다.
• 그래디언트에 노이즈를 주입한 정규화(노이즈가 포함된 업데이트)는 노이즈 스케줄에 대한 적절한 조건하에서 전역 최솟값으로의 수렴을 보장할 수 있다.
• 제안된 입자 기반 알고리즘은 각 반복의 다항 시간 복잡도를 가지며 샘플 크기가 증가함에 따라 모집단 흐름으로 수렴하며, chaos 전파에 대한 정량적 결과를 제공한다.
• 실험적 증거는 노이즈 주입된 MMD 흐름이 합성 과제에서 평범한 MMD 및 KSD보다 회귀형 네트워크 학습에 더 나은 성능을 보일 수 있음을 시사한다.