[논문 리뷰] Boosted Generative Models

Aditya Grover, Stefano Ermon|arXiv (Cornell University)|2017. 02. 27.

Generative Adversarial Networks and Image Synthesis인용 수 11

한 줄 요약

이 논문은 다중 모델 조합을 사용하여 이전 오류를 보정하는 모델을 순차적으로 훈련시킴으로써 성능을 점진적으로 향상시키는 새로운 부스팅 프레임워크를 소개한다. 이는 생성 모델에 적용되며, 생성 모델과 판별 모델을 모두 통합하여 벤치마크 데이터셋에서 밀도 추정, 분류, 샘플 생성 성능을 크게 향상시킨다.

ABSTRACT

We propose a novel approach for using unsupervised boosting to create an ensemble of generative models, where models are trained in sequence to correct earlier mistakes. Our meta-algorithmic framework can leverage any existing base learner that permits likelihood evaluation, including recent deep expressive models. Further, our approach allows the ensemble to include discriminative models trained to distinguish real data from model-generated data. We show theoretical conditions under which incorporating a new model in the ensemble will improve the fit and empirically demonstrate the effectiveness of our black-box boosting algorithms on density estimation, classification, and sample generation on benchmark datasets for a wide range of generative models.

연구 동기 및 목표

• 복잡한 데이터 분포를 높은 정확도로 적합시키는 데에 한계가 있는 기존 생성 모델의 문제점을 해결한다.
• 원래는 지도 학습에서 사용된 부스팅 원리를 비지도 생성 모델 학습에 확장하여, 모델 오류를 순차적으로 수정할 수 있도록 한다.
• 다양한 생성 모델과 판별 모델을 단일 앙상블에 통합할 수 있는 유연하고 블랙박스 형태의 메타알고리즘을 개발한다.
• 다중 부스팅에서의 모델 향상에 대한 이론적 보장을 제공하여 특정 조건 하에서 수렴성을 보장한다.
• 밀도 추정, 분류, 샘플 생성 작업 전반에서 기준 모델과 덧셈 부스팅에 비해 경험적으로 뛰어난 성능을 입증한다.

제안 방법

• 최종 모델의 밀도가 중간 단계의 모델 밀도들의 곱이 되는 다중 부스팅 프레임워크를 제안하여 계층적 오류 보정을 가능하게 한다.
• 각 부스팅 라운드에서 실데이터와 모델이 생성한 샘플 간의 밀도 비율로부터 유도된 가중치를 사용해 재가중된 훈련 데이터를 사용한다.
• 실데이터와 생성 샘플을 구분하는 데 훈련된 판별 모델(예: 이元 분류기)을 활용하며, 그 출력을 사용해 훈련 포인트의 가중치를 재조정한다.
• 각 전문가가 생성 모델 또는 판별 모델인 제품-전문가 모델로 앙상블를 구성한다. 이는 전체 가능도 적합도 향상에 기여하도록 훈련된다.
• 가능도 평가가 가능한 임의의 기본 생성 모델(예: 변분 오토에인코더, 합-곱 네트워크, 혼합 모델 등)을 약한 학습자로 사용할 수 있다.
• 두 가지 알고리즘인 GenBGM(생성 부스팅)과 DiscBGM(판별 부스팅)을 도입하며, 이는 분류기의 완벽하지 못한 성능을 반영하기 위해 민감한 모델 가중치를 사용한다.

실험 결과

연구 질문

• RQ1 비지도 생성 모델 학습에 부스팅을 효과적으로 적용하여 모델 용량과 적합도를 향상시킬 수 있는가?
• RQ2 다중 부스팅이 순차적인 라운드를 거쳐 앙상블 성능 향상을 보장하는 이론적 조건은 무엇인가?
• RQ3 실데이터와 생성 샘플을 구분하도록 훈련된 판별 모델을 생성 앙상블 프레임워크에 의미 있게 통합할 수 있는가?
• RQ4 밀도 추정 및 생성 작업에서 다중 부스팅은 덧셈 부스팅에 비해 모델 적합도와 일반화 성능에서 어떻게 비교되는가?
• RQ5 이 블랙박스 부스팅 프레임워크는 깊이 있는 표현 모델을 포함한 다양한 생성 모델의 성능 향상에 얼마나 기여할 수 있는가?

주요 결과

• 다중 부스팅 프레임워크는 이전 앙상블 구성원의 오류를 보정하도록 순차적으로 모델을 훈련시음으로써 가능도 추정 성능 향상에 기여한다.
• 경험적 결과로는 제안된 프레임워크가 다양한 벤치마크 데이터셋에서 기준 모델과 덧셈 부스팅에 비해 밀도 추정 작업에서 뛰어난 성능을 보였다.
• 실데이터와 생성 샘플을 구분하도록 훈련된 판별 모델을 앙상블에 효과적으로 통합할 수 있으며, 이는 전체 성능 향상에 기여한다.
• 이 프레임워크는 생성 분류 및 샘플 생성 작업에서 뛰어난 성능을 보이며, 생성 샘플의 정확도와 다양성 모두 향상된다.
• 이론적 분석을 통해 진짜 데이터 분포로의 쿨백-라이블러 발산을 감소시키는 조건을 규명하였으며, 새로운 모델을 앙상블에 추가할 경우 수렴성이 보장됨을 입증하였다.
• 이 방법은 매개변수적 및 비매개변수적 모델 모두를 지원하며, 자가정규화 샘플링을 위한 노멀라이징 플로우로도 확장 가능하다.