[논문 리뷰] Black-box Importance Sampling

Qiang Liu, Jason D. Lee|arXiv (Cornell University)|2016. 10. 17.

Statistical Methods and Inference참고 문헌 3인용 수 3

한 줄 요약

이 논문은 제안 분포의 밀도를 명시적으로 알 필요 없이, 어떤 알려지지 않은 또는 복잡한 제안 분포에서 온 샘플의 중요도 가중치를 계산하는 데이어 백박스 중요도 샘플링을 제안한다. 커널 기반 스틸 산란도를 사용하여 가중치 추정을 볼록 2차 프로그래밍 문제로 공식화함으로써, 표준 중요도 샘플링보다 더 높은 정확도를 달성한다. 이는 정규화되지 않은 복잡한 제안 분포를 사용할 때조차도 고차원 및 대용량 데이터 환경에서 안정적인 추론을 가능하게 한다.

ABSTRACT

Importance sampling is widely used in machine learning and statistics, but its power is limited by the restriction of using simple proposals for which the importance weights can be tractably calculated. We address this problem by studying black-box importance sampling methods that calculate importance weights for samples generated from any unknown proposal or black-box mechanism. Our method allows us to use better and richer proposals to solve difficult problems, and (somewhat counter-intuitively) also has the additional benefit of improving the estimation accuracy beyond typical importance sampling. Both theoretical and empirical analyses are provided.

연구 동기 및 목표

• 기존 중요도 샘플링이 처리 가능한 제안 밀도를 필요로 하고 복잡한 고차원 타겟 분포에서 어려움을 겪는 데서 비롯된 한계를 극복하기 위해.
• 수렴하지 않은 MCMC나 변분 추론에서 유래한 풍부하고 복잡한 제안 분포를 사용할 수 있도록, 제안 밀도를 계산할 필요 없이 이를 가능하게 하기 위해.
• 제안 밀도 정보 없이 더 적은 정보를 사용함에도 불구하고 추정 정확도를 향상시켜 몬테카를로 방법의 전통적 통념에 도전하기 위해.
• 정규화되지 않은 사후분포 추정 및 근사 추론에서 분산 감소를 위한 안정적이고 확장 가능하며 광범위하게 적용 가능한 방법을 제공하기 위해.

제안 방법

• 이 방법은 중요도 가중치 추정을 커널 기반 스틸 산란도를 최소화하는 볼록 2차 프로그래밍 문제로 공식화하여, 가중치가 부여된 경험 측도와 목표 분포 사이의 거리 최소화를 목표로 한다.
• 재생 핵 힐버트 공간(RKHS)을 사용하여, 제안 밀도에 의존하지 않고 목표 밀도와 샘플에만 의존하는 산란도 측도를 정의한다.
• 가중치는 확률 단체(비음수이고 총합이 1이 되도록)로 제약을 두어, 음수나 정규화되지 않은 가중치를 允허하는 방법보다 안정성과 해석 가능성 면에서 유리하다.
• 베이지안 통계 및 머신러닝에서 흔한 정규화되지 않은 목표 분포에 대해서도 정규화 상수를 필요로 하지 않기 때문에 적용 가능하다.
• 표준 2차 프로그래밍 솔버를 사용해 효율적으로 해결할 수 있는 제약 조건이 있는 최적화 문제로 구현된다.
• 최근의 스틸 산란도 기반 기술을 활용하여, MCMC, 변분 추론 또는 펌프 앤 매핑 방법과 같은 어떤 샘플 생성 메커니즘에서도 적용 가능한 블랙박스 추정을 가능하게 한다.

실험 결과

연구 질문

• RQ1 복잡한 MCMC 체인에서 유래한 것처럼 제안 분포가 알려지지 않거나 비처리 가능한 경우에도 중요도 샘플링을 효과적으로 사용할 수 있는가?
• RQ2 제안 밀도 정보 없이 샘플 정보만을 사용하는 것이 표준 IS보다 더 높은 추정 정확도를 낳는가?
• RQ3 산란도 최소화 기반의 블랙박스 방법이 고차원 및 비정규 분포 환경에서 전통적 IS 및 제어 변수 방법보다 뛰어난 성능을 보일 수 있는가?
• RQ4 빅데이터 응용에서 흔히 볼 수 있는 수렴하지 않은 MCMC 체인이나 모델 불일치 상황에서도 이 방법의 성능은 어떠한가?
• RQ5 비음수성 등의 가중치 제약 조건이 추정기의 안정성과 정확도에 미치는 영향은 무엇인가?

주요 결과

• 제안된 블랙박스 중요도 샘플링 방법은 고차원 및 비정규 목표 분포에서 표준 IS 및 제어 변수 방법보다 낮은 평균 제곱오차(MSE)를 달성한다.
• 표준 정규 분포의 경우, 이 방법은 최상의 기준 방법과 유사한 성능을 보이며, 저차원에서는 정규화된 제어 함수가 略적으로 더 우수한 성능을 보인다.
• 모의 실험과 실제 베이지안 프로빗 모델 모두에서, MCMC 체인이 짧거나 수렴하지 않은 경우에 특히 두드러지게 균일 가중치보다 추정 정확도가 향상된다.
• 제어 함수와 KDE의 정규화되지 않은 형태는 실무에서 성능이 열 劣하며, 정규화된 형태는 안정성이 향상되어 정규화의 중요성을 부각시킨다.
• 작은 표본 환경($n < 1000$)에서 비음수 가중치($w_i \to 0$)를 강제하는 것이 더 우수한 성능을 내어, 이는 안정적이고 실용적인 기본 설정임을 시사한다.
• 54개의 특성을 가진 Covtype 데이터셋에서, 스틸 방법과 정규화된 제어 함수가 균일 가중치 및 정규화되지 않은 대안들보다 뛰어난 성능을 보이며, 실제 환경에서의 확장성과 안정성을 입증한다.