[논문 리뷰] Scalable Semi-Modular Inference with Variational Meta-Posteriors

Chris U. Carmona, Geoff K. Nicholls|arXiv (Cornell University)|2022. 04. 01.

Machine Learning in Healthcare인용 수 5

한 줄 요약

이 논문은 영향 매개변수 η의 연속적인 범위 전반에서 Semi-Modular Inference(SMI) 사후분포를 공동으로 근사하는 가속화된 변분 추론 프레임워크를 제안한다. 이는 정규화 흐름(Normalizing Flows)과 새로운 변분 메타사후분포(Variational Meta-Posterior, VMP)를 사용하여 모듈 간 피드백을 제어할 수 있도록 한다. 이 방법은 엔드 투 엔드로 미분 가능한 최적화를 가능하게 하여, 평균장 변분 추론(Mean-Field VI)보다 우수한 불확실성 측정 성능을 보이며, 각 η에 대한 재학습 없이도 여러 컷을 효율적으로 탐색할 수 있다.

ABSTRACT

The Cut posterior and related Semi-Modular Inference are Generalised Bayes methods for Modular Bayesian evidence combination. Analysis is broken up over modular sub-models of the joint posterior distribution. Model-misspecification in multi-modular models can be hard to fix by model elaboration alone and the Cut posterior and SMI offer a way round this. Information entering the analysis from misspecified modules is controlled by an influence parameter $η$ related to the learning rate. This paper contains two substantial new methods. First, we give variational methods for approximating the Cut and SMI posteriors which are adapted to the inferential goals of evidence combination. We parameterise a family of variational posteriors using a Normalising Flow for accurate approximation and end-to-end training. Secondly, we show that analysis of models with multiple cuts is feasible using a new Variational Meta-Posterior. This approximates a family of SMI posteriors indexed by $η$ using a single set of variational parameters.

연구 동기 및 목표

• 다중 컷이 존재할 경우, 특히 η가 고차원일 경우 SMI 사후분포의 계산 비용이 과도해지는 문제를 해결하기 위해.
• 모듈 간 정보 흐름을 제어할 수 있는 변분 추론 프레임워크를 개발하여, 평균장 VI에서 흔히 발생하는 과소분산 문제를 방지하기 위해.
• η에 따라 인덱싱된 전체 SMI 사후분포 가족을 하나의 모델에서 근사할 수 있도록 엔드 투 엔드 학습을 가능하게 하기 위해.
• 사전에 컷을 지정하는 대신, 영향 매개변수를 동시에 추정함으로써 잘못 지정된 모듈을 탐지하기 위해.
• 비용이 많이 드는 η별 MCMC 샘플링을 빠르고 미분 가능한 VMP 추론으로 대체하여 복잡한 모델로의 모듈러 추론 스케일링을 가능하게 하기 위해.

제안 방법

• 모듈 간 매개변수 갱신을 분리하기 위해 정지기울기(Stop-Gradient) 연산자를 사용한 수정된 하한경계(ELBO)를 제안하여, η를 통한 제어된 피드백을 가능하게 한다.
• 표현력 있고 민감한 근사가 가능한 정규화 흐름(NFs)을 변분 가족(parameterize the variational family)에 적용하여 과소분산을 방지한다.
• η에 조건부로 설정된 조건부 정규화 흐름인 변분 메타사후분포(VMP)-플로우를 도입하여, 단일 학습 런 동안 모든 SMI 사후분포를 공동으로 근사한다.
• 이중 단계 학습 절차를 사용: 먼저 η에서 변분 매개변수로 매핑하는 VMP를 학습하고, 이후 공동 목표함수에 대해 SGD를 사용해 VMP를 최적화한다.
• VMP를 활용해 η 전역에서의 빠른 샘플링과 ELPD 추정을 가능하게 하여, 격자 기반 또는 중첩된 MCMC 접근법을 대체한다.
• 표준 KL 발산을 피하기 위해 이중 손실 목표함수를 사용하여, η = 0(컷 사후분포) 및 η = 1(베이즈 사후분포)에서 정확한 정보 흐름 제어를 보장한다.

실험 결과

연구 질문

• RQ1 변분 추론이 SMI 사후분포에 적응되어 모듈 간 제어된 피드백을 유지하고 엔드 투 엔드 최적화를 가능하게 할 수 있는가?
• RQ2 각 η 값에 대해 재학습하지 않고도 η에 따라 인덱싱된 연속적인 SMI 사후분포 가족을 효율적으로 근사할 수 있는가?
• RQ3 변분 가족에 정규화 흐름을 사용할 경우, SMI 환경에서 평균장 VI보다 더 나은 불확실성 측정 성능을 보일 수 있는가?
• RQ4 VMP 프레임워크는 모든 모듈을 동시에 영향 매개변수를 추정함으로써 잘못 지정된 모듈을 탐지할 수 있는가?
• RQ5 ELPD 추정의 정확성과 계산 비용 측면에서 VMP의 성능은 중첩 MCMC나 격자 기반 방법과 비교해 어떻게 되는가?

주요 결과

• VMP-플로우 프레임워크는 η 전역에서 모든 SMI 사후분포를 근사하는 단일 모델의 공동이고 미분 가능한 학습을 가능하게 하여, 컷 수에 비례해 기하급수적에서 선형으로 학습 비용을 감소시킨다.
• MCMC 기준선과 비교했을 때 과소분산이 발생하지 않으며, 평균장 VI와 달리 분산을 과소평가하지 않아 불확실성 측정 성능에서 우수한 성능을 보인다.
• VMP-플로우는 η에 따라 매개변수를 예측하는 VMP-맵을 학습하는 것보다 더 빠르고 안정적인 수렴을 보이며, 최적화 동역학이 더 우수하다.
• 변분 근사가 η 변화에 따라 변분 컷(Yu 등, 2021)과 표준 변분 베이즈 사이를 정확히 보간하며, SMI의 이론적 성질을 유지한다.
• 이 프레임워크는 각 η에 대한 샘플링 없이도 효율적인 ELPD 최적화를 가능하게 하여, 최적의 영향 매개변수를 자동으로 선택할 수 있다.
• 적절한 플로우(예: 커파링 레이어 기반 MLP 조절의 유리한 스플라인 변환기)를 한 번 선택한 후에는 아키텍처 선택에 관계없이 일관된 성능을 보이며, 강건성을 확보한다.