[논문 리뷰] A Review of Learning with Deep Generative Models from Perspective of Graphical Modeling

Zhijian Ou|arXiv (Cornell University)|2018. 08. 05.

Generative Adversarial Networks and Image Synthesis참고 문헌 94인용 수 16

한 줄 요약

이 논문은 그래픽 모델링의 시각에서 딥 생성 모델(DGMs)을 검토하며, 유도된 모델과 비유도된 모델을 구분하고, 모델 정의와 학습 알고리즘을 분리한다. 변분 추론, 스코어 기반 학습, 적대적 학습 등의 주요 학습 방법을 체계적으로 비교하여 이론적 기초, 실용적 과제, 그리고 상호 연결성을 강조하며, VAE, GAN, 노이즈 대비 추정(NCE)과 같은 최근의 발전에 중점을 둔다.

ABSTRACT

This document aims to provide a review on learning with deep generative models (DGMs), which is an highly-active area in machine learning and more generally, artificial intelligence. This review is not meant to be a tutorial, but when necessary, we provide self-contained derivations for completeness. This review has two features. First, though there are different perspectives to classify DGMs, we choose to organize this review from the perspective of graphical modeling, because the learning methods for directed DGMs and undirected DGMs are fundamentally different. Second, we differentiate model definitions from model learning algorithms, since different learning algorithms can be applied to solve the learning problem on the same model, and an algorithm can be applied to learn different models. We thus separate model definition and model learning, with more emphasis on reviewing, differentiating and connecting different learning algorithms. We also discuss promising future research directions.

연구 동기 및 목표

• 딥 생성 모델(DGMs)을 그래픽 모델링 프레임워크를 통해 체계적으로 검토하여, 유도된 모델과 비유도된 모델 간의 학습 방법에 대한 근본적인 차이를 강조한다.
• 모델 정의와 학습 알고리즘을 분리하여, 동일한 모델에 다양한 알고리즘이나 반대로 동일한 알고리즘이 여러 모델에 적용될 수 있음을 명확히 이해할 수 있도록 한다.
• 변분 추론, 스코어 기반 학습, 적대적 학습, 노이즈 대비 추정(NCE) 등의 주요 학습 철학을 비교하고 연결하여 이론적 및 실용적 차이점을 부각한다.
• 학습 안정성, 이산 잠복 변수, 순차적 모델링과 같은 DGM 학습의 열린 과제를 식별하고 향후 연구 방향을 제안한다.
• 모델 특화 브랜딩이 아닌 알고리즘적 차별화와 통합에 중점을 두어, 기존 리뷰를 보완하는 포괄적이고 최신의 DGM 학습 개요를 제공한다.

제안 방법

• 그래픽 모델링 용어를 사용하여 DGMs를 유도된 모델(베이지안 네트워크)과 비유도된 모델(마르코프 무작위 필드)으로 분류하며, 비유도된 모델에 존재하는 분할 함수로 인해 학습 방법이 다름을 강조한다.
• 모델 정의(예: VAE, GAN)와 학습 알고리즘(예: 변분 추론, 적대적 학습)을 분리하는 프레임워크를 도입하여, 다양한 모델 간 분석이 가능하도록 한다.
• 증거 하한값(ELBO)을 통한 변분 추론을 검토하며, 근사 사후분포 $ q_{\phi}(h|x) $ 를 사용하여 로그우도 하한값을 최대화하는 목표로 수식화한다.
• 적대적 학습을 $ f $-분산을 최소화하는 것으로 프레임워크화하며, 판별기 $ D_{\psi}(x) $ 와 로짓 $ V_{\psi}(x) = \log \frac{D_{\psi}(x)}{1 - D_{\psi}(x)} $ 를 사용하고, 노이즈 대비 추정(NCE)과 연결한다.
• 비가역 단일 목표 최적화 문제를 가용한 다중 목표 문제로 변환하기 위해 '플러깅 기법(plugging trick)'을 적용하며, 비가역 항(예: 우도 비율)을 보조 최적화 문제의 해로 대체한다.
• NCE와 $ f $-분산의 변분 추정 간의 연결을 유도하며, 특정 $ f $-함수와 보조 분포 하에서 NCE 목표 함수가 변분 하한값과 동일하다는 것을 보여준다.

실험 결과

연구 질문

• RQ1 비유도된 모델에 분할 함수가 존재함으로써, 유도된 모델과 비유도된 모델 간의 학습 방법이 근본적으로 어떻게 다를 수 있는가?
• RQ2 학습 알고리즘이 모델 정의에서 얼마나 분리될 수 있으며, 이는 VAE나 GAN과 같은 DGM 이해에 어떻게 기여하는가?
• RQ3 딥 생성 모델에서 확률적 히든 레이어와 결정적 히든 레이어 간의 이론적 및 실용적 트레이드오���은 무엇인가?
• RQ4 플러깅 기법을 통해 비가역 최적화 문제를 다중 목표 문제로 어떻게 변환할 수 있는가?
• RQ5 NCE, 변분 추론, 적대적 학습 간의 연결 고리가 $ f $-분산 최소화의 맥락에서 어떻게 존재하는가?

주요 결과

• 논문은 비유도된 모델에 분할 함수가 존재함으로써 유도된 모델과 비유도된 모델 간의 학습 접근 방식이 근본적으로 다름을 규명한다. 이는 우도 기반 학습의 복잡성을 증가시킨다.
• 변분 추론은 근사 사후분포 $ q_{\phi}(h|x) $ 를 최적화하여 로그우도의 가용한 하한값(ELBO)을 제공함으로써, VAE와 같은 모델의 엔드 투 엔드 학습을 가능하게 한다.
• 적대적 학습, 특히 GAN을 통해 $ f $-분산을 최소화하며, 판별기 $ D_{\psi}(x) $ 와 로짓 $ V_{\psi}(x) $ 가 학습 목표 함수의 핵심 구성 요소가 된다.
• 노이즈 대비 추정(NCE)은 알려진 노이즈 분포를 사용하여 모델 밀도를 추정함으로써, 우도 기반 학습의 일관성 있고 안정적인 대안을 제공한다. 특정 조건 하에서 목표 함수가 변분 하한값과 동일하다는 것이 입증되었다.
• 플러깅 기법은 비가역 항을 보조 최적화 문제의 해로 대체함으로써 비가역 단일 목표 문제를 가용한 다중 목표 문제로 변환할 수 있게 하며, 다만 기울기 일관성은 검증이 필요하다.
• 논문은 핵심 열린 과제로 학습 안정화, 이산 잠복 변수 및 관측 변수 처리, 순차적 데이터 모델링을 식별하며, 이는 여전히 활발한 연구 분야이다.