[논문 리뷰] Neural Importance Sampling

Thomas Müller, Brian McWilliams외 3명|arXiv (Cornell University)|2018. 08. 11.

Generative Adversarial Networks and Image Synthesis인용 수 13

한 줄 요약

이 논문은 몽테 카를로 적분을 위한 최적의 샘플링 밀도를 학습하기 위해 딥 네ural 네트워크—특히 조각다항식 결합층을 갖춘 확장된 정규화 흐름—을 사용하는 신경 중요도 샘플링을 소개한다. 빠르고 가역적이며 표현력이 풍부한 샘플링 분포를 가능하게 함으로써, 렌더링 및 이미지 생성 작업에서 최신 기술보다 낮은 분산과 높은 정확도를 달성한다.

ABSTRACT

We propose to use deep neural networks for generating samples in Monte Carlo integration. Our work is based on non-linear independent components estimation (NICE), which we extend in numerous ways to improve performance and enable its application to integration problems. First, we introduce piecewise-polynomial coupling transforms that greatly increase the modeling power of individual coupling layers. Second, we propose to preprocess the inputs of neural networks using one-blob encoding, which stimulates localization of computation and improves inference. Third, we derive a gradient-descent-based optimization for the KL and the $\chi^2$ divergence for the specific application of Monte Carlo integration with unnormalized stochastic estimates of the target distribution. Our approach enables fast and accurate inference and efficient sample generation independently of the dimensionality of the integration domain. We show its benefits on generating natural images and in two applications to light-transport simulation: first, we demonstrate learning of joint path-sampling densities in the primary sample space and importance sampling of multi-dimensional path prefixes thereof. Second, we use our technique to extract conditional directional densities driven by the product of incident illumination and the BSDF in the rendering equation, and we leverage the densities for path guiding. In all applications, our approach yields on-par or higher performance than competing techniques at equal sample count.

연구 동기 및 목표

• 표현력 있고 가역적인 샘플링 밀도를 학습하여 몽테 카를로 적분의 높은 분산 문제를 해결한다.
• 통합 영역 차원에 관계없이 정확한 PDF 평가 및 샘플 생성을 효율적으로 가능하게 한다.
• 조명 전달 시뮬레이션과 같은 복잡한 고차원 문제에서 중요도 샘플링 성능을 향상시킨다.
• 비정규화된 추정치를 사용하는 KL 및 χ² 발산을 최소화하기 위한 미분 가능한 최적화 프레임워크를 개발한다.
• 경로 가이드 및 렌더링에서의 공동 경로 샘플링과 같은 실제 응용 분야에서의 방법의 효과성을 입증한다.

제안 방법

• 모델링 능력을 향상시키기 위해 NICE(비선형 독립성 구성 요소 추정)를 조각다항식 결합 변환(조각선형 및 조각이차형)으로 확장하여 각 층의 표현력과 능력을 높인다.
• 계산의 국소화와 추론 효율성을 향상시키기 위해 네트워크 입력에 대한 one-blob 인코딩을 도입한다.
• 목표 분포의 비정규화된 확률적 추정치를 사용하여 KL 및 χ² 발산을 최소화하는 기반에 기반한 경사하강법 최적화 전략을 개발한다.
• 결합층에서 분리성의 유지로 가역성과 정확한 PDF 평가를 보장하여 자코비안 행렬식이 해석 가능하게 유지된다.
• 기본 분포에서 단순한 분포를 복잡하고 다중모달인 분포로 변환하는 정규화 흐름을 사용하여 복잡한 분포를 모델링한다.
• 학습된 밀도를 적용하여 최적의 중요도 샘플링을 통한 몽테 카를로 추정기의 분산을 최소화하는 샘플을 생성한다.

실험 결과

연구 질문

• RQ1 정규화 흐름을 갖춘 딥 네ural 네트워크는 몽테 카를로 적분의 분산을 크게 감소시키는 표현력 있고 가역적인 샘플링 밀도를 학습할 수 있는가?
• RQ2 조각다항식 결합층은 애매한 결합층에 비해 표현력과 효율성을 어떻게 향상시키며, 필요한 층 수를 줄이는가?
• RQ3 one-blob 인코딩은 고차원 통합 문제에서 계산의 국소화와 추론 속도 향상에 기여하는가?
• RQ4 비정규화된 추정치를 사용하는 KL 및 χ² 발산 최적화 전략은 실제 적용에서 안정적이고 효과적인 학습을 가능하게 하는가?
• RQ5 이 프레임워크는 경로 가이드 및 고차원 경로 프리픽스 샘플링과 같은 복잡한 렌더링 응용 분야에서 기존 중요도 샘플링 기법을 능가하는가?

주요 결과

• 조명 전달 시뮬레이션에서, 제안된 방법은 동일한 샘플 수로 경쟁 기법과 비슷하거나 더 뛰어난 성능을 달성한다.
• 조각다항식 결합층은 모델링 능력을 크게 향상시켜 더 적은 층 수로도 고정밀도를 유지하면서 빠른 추론이 가능하게 한다.
• one-blob 인코딩은 샘플 품질에 손상 없이 계산의 국소화를 향상시키고 추론 속도를 가속화한다.
• KL 및 χ² 발산을 위한 기반 기반 최적화 전략은 목표 분포의 비정규화된 확률적 추정치가 존재하는 상황에서도 안정적인 학습을 가능하게 한다.
• 경로 가이드 응용에서, 이 방법은 입사 조명과 BSDF의 곱으로부터 조건부 방향 밀도를 성공적으로 추출하여 샘플링 효율성을 향상시켰다.
• 이 방법은 고차원 자연 이미지 분포에서도 뛰어난 성능을 보이며, 렌더링을 초월한 일반화 능력을 입증했다.