[논문 리뷰] Statistical Inference for Generative Models with Maximum Mean Discrepancy

François‐Xavier Briol, Alessandro Barp외 2명|arXiv (Cornell University)|2019. 06. 13.

Markov Chains and Monte Carlo Methods참고 문헌 106인용 수 35

한 줄 요약

본 논문은 계산 불가능한 생성 모델에 대해 최소 MMD 추정기를 개발하고, 그 일관성, 점근 정규성, 강건성을 분석하며, 효율적인 추론을 위한 자연-그레이디언트 유사 최적화 방법을 도입한다.

ABSTRACT

While likelihood-based inference and its variants provide a statistically efficient and widely applicable approach to parametric inference, their application to models involving intractable likelihoods poses challenges. In this work, we study a class of minimum distance estimators for intractable generative models, that is, statistical models for which the likelihood is intractable, but simulation is cheap. The distance considered, maximum mean discrepancy (MMD), is defined through the embedding of probability measures into a reproducing kernel Hilbert space. We study the theoretical properties of these estimators, showing that they are consistent, asymptotically normal and robust to model misspecification. A main advantage of these estimators is the flexibility offered by the choice of kernel, which can be used to trade-off statistical efficiency and robustness. On the algorithmic side, we study the geometry induced by MMD on the parameter space and use this to introduce a novel natural gradient descent-like algorithm for efficient implementation of these estimators. We illustrate the relevance of our theoretical results on several classes of models including a discrete-time latent Markov process and two multivariate stochastic differential equation models.

연구 동기 및 목표

• 가능도(Likelihood)를 구하기 어렵거나 비싼 경우에 대한 계산적 추론 필요성 동기부여.
• 모형 분포와 데이터 분포를 비교하기 위한 최대 평균 차이(Maximum Mean Discrepancy, MMD)를 이용한 최소 거리 프레임워크 제안.
• 일관성, 점근적 정규성, 강건성 등 최소 MMD 추정기의 통계적 특성 분석.
• 커널 선택과 기하가 일반화 성능 및 효율성에 미치는 영향 분석.
• 정보 기하학적 아이디어(자연 그레이디언트)에 기반한 효율적 최적화 알고리즘 개발으로 MMD 기반 추론 성능 향상.

제안 방법

• 모델 분포와 데이터 분포 간의 MMD를 재현 커널 힐베르트 공간의 커널 평균 표현으로 정의.
• P_theta와 실증 데이터 분포 Q^m 사이의 MMD^2를 최소화하여 최소 MMD 추정기 형식화.
• 계산 불가능한 적분을 계산하지 않고도 theta를 업데이트하기 위한 SGD용 U-통계량 기울기 추정기를 도출.
• 파라미터 공간 위의 커널 유도 리마니안 기하(metric)로 구성된 확률적 자연 그레이디언트 하강 알고리즘 도입.
• 노출된 그래디언트 흐름을 proximal과 유사한 업데이트로 연결하는 완전한 암시적 이산화를 논의하여 강건성 확보.
• 최소 MMD 추정기를 커널 점수 규칙 및 해당 발산과의 관계를 통해 설명.

실험 결과

연구 질문

• RQ1 비교 가능한 거리 기준을 사용하여 가능도 없이도 불가능한 생성 모델에 대한 통계적 추론을 어떻게 수행할 수 있는가?
• RQ2 M-클로즈드(M-closed) 및 M-오픈(M-open) 설정에서 최소 MMD 추정기의 이론적 특성(일관성, 점근적 정규성, 강건성)은 무엇인가?
• RQ3 커널 선택이 일반화 한계, 효율성 및 강건성에 어떠한 영향을 미치는가?
• RQ4 자연 그레이디언트 또는 정보 기하학적 접근이 MMD 기반 추론의 계산 효율적인 최적화를 제공할 수 있는가?
• RQ5 잠재 마르코프 과정 및 확률적 미분방정식(SDE)과 같은 모델에서 최소 MMD 추정기의 실용적 의미와 성능은 어떠한가?

주요 결과

• 적절한 가정하에 M-클로즈드 설정에서 최소 MMD 추정기가 일관되고 점근적으로 정규성을 가진다.
• M-오픈 설정에서 추정기의 강건성이 확립되며 질적·정량적 강건성 결과가 도출된다.
• MMD 추정기에 대한 일반화 한계는 차원에 강건하고, 비율은 m^{-1/2}(n,m 설정에서 n^{-1/2})의 속도이며 커널 의존 상수가 명시적으로 제시된다.
• 가우시안 커널 및 커널 혼합을 포함한 커널 선택이 효율성과 강건성 간의 절충을 형성하며, 중앙 길이 스케일 휴리스틱이 차원효과를 완화할 수 있다.
• MMD의 정보 기하학에 기반한 확률적 자연 그레이디언트 하강 알고리즘은 이러한 추정기에 대해 표준 SGD에 비해 계산적 이점을 제공한다.
• 이 이론의 실용적 관련성은 이산 시간의 잠재 마르코프 과정 및 다변량 SDE에의 적용에서 보여 준다.