[논문 리뷰] Grassmann Stein Variational Gradient Descent

Xing Liu, Harrison Zhu외 3명|arXiv (Cornell University)|2022. 02. 07.

Markov Chains and Monte Carlo Methods인용 수 4

한 줄 요약

이 논문은 고차원 베이지안 추론에서 불확실성 정량화를 향상시키기 위해 데이터 및 스코어 함수를 다항부분공간으로 적응적으로 투영하는 쌍방향 미분방정식-확률미분방정식 시스템을 통해 그라스만 다양체 위에서 작동하는 새로운 입자 기반 추론 방법인 그라스만 스티븐 바리에이션 경사수하강법(GSVGD)을 제안한다. GSVGD는 내재된 저차원 구조를 가진 문제에서 지식 기반 불확실성 추정에서 SVGD와 S-SVGD를 능가하며, 평균 추정의 정확성도 유지한다.

ABSTRACT

Stein variational gradient descent (SVGD) is a deterministic particle inference algorithm that provides an efficient alternative to Markov chain Monte Carlo. However, SVGD has been found to suffer from variance underestimation when the dimensionality of the target distribution is high. Recent developments have advocated projecting both the score function and the data onto real lines to sidestep this issue, although this can severely overestimate the epistemic (model) uncertainty. In this work, we propose Grassmann Stein variational gradient descent (GSVGD) as an alternative approach, which permits projections onto arbitrary dimensional subspaces. Compared with other variants of SVGD that rely on dimensionality reduction, GSVGD updates the projectors simultaneously for the score function and the data, and the optimal projectors are determined through a coupled Grassmann-valued diffusion process which explores favourable subspaces. Both our theoretical and experimental results suggest that GSVGD enjoys efficient state-space exploration in high-dimensional problems that have an intrinsic low-dimensional structure.

연구 동기 및 목표

• 고차원 타겟 분포 하에서 스티븐 바리에이션 경사수하강법(SVGD)의 분산 과소평가 문제를 해결한다.
• 고정된 스코어 함수 투영으로 인해 지식 기반 불확실성을 과소평가할 수 있는 S-SVGD의 1차원 투영의 한계를 극복한다.
• 데이터 및 스코어 함수의 프로젝터를 동시에 최적화하여 상태공간 탐색을 향상시키는 통합 프레임워크를 개발한다.
• 내재된 저차원 구조를 가진 고차원 문제에서 더 높은 차원의 부분공간을 사용하여 정확한 불확실성 추정을 가능하게 한다.
• 탐색과 이용의 균형을 이루는 그라스만 값 확산 과정을 도입하여 부분공간 선택에 기여한다.

제안 방법

• m차원 부분공간에서 제안 분포와 타겟 분포 간의 차이를 측정하기 위해 그라스만 커널 스티븐 불일치도(GKSD)를 제안한다.
• SVGD 입자와 그라스만 프로젝터가 동시에 진화하는 쌍방향 미분방정식-확률미분방정식 시스템을 설정하며, 프로젝터는 그라스만 다양체 위의 확산 과정에 의해 안내된다.
• 그라스만 다양체 위의 확률적 과정을 사용하여 불일치도를 최대화하는 최적의 m차원 부분공간을 적응적으로 학습함으로써 유리한 방향의 동적 탐색을 가능하게 한다.
• 데이터 및 스코어 함수의 프로젝터를 동시에 업데이트하여 이전 방법에서 발생하는 결정론적 편향을 방지한다.
• 임의의 m차원 투영(1 ≤ m ≤ d)을 허용함으로써 구성 요소 간의 상관관계를 포착하고 1차원 슬라이스보다 불확실성 정량화를 향상시킨다.
• 다수의 프로젝터를 사용하여 다양성과 수렴성을 향상시키는 GSVGD의 배치 확장 버전을 도입한다.

실험 결과

연구 질문

• RQ1 1차원 투영에 비해 더 높은 차원의 부분공간(m > 1)이 고차원 베이지안 추론에서 불확실성 정량화를 향상시키는가?
• RQ2 데이터 및 스코어 함수의 프로젝터를 동시에 최적화하면 SVGD의 편향을 줄이고 추정 정확도를 향상시키는가?
• RQ3 그라스만 값 확산 과정은 부분공간 선택에서 탐색과 이용을 어떻게 균형 잡는가?
• RQ4 GSVGD는 고차원 문제에서 평균 및 공분산 추정에서 HMC 기반 참값과 더 잘 일치하는가?
• RQ5 GSVGD 성능은 프로젝션 차원 m과 확산 과정의 하이퍼파rameter 선택에 얼마나 민감한가?

주요 결과

• 고차원 스토케스틱 프로세스 추론 문제에서 GSVGD는 HMC 기반 기준과 유사한 신뢰구간을 제공하며, SVGD와 S-SVGD보다 더 정확한 불확실성 추정을 달성한다.
• 커버타입 데이터셋 실험에서 m ≈ 10을 사용한 GSVGD는 S-SVGD보다 더 정확한 사후 공분산 추정을 달성했으며, S-SVGD는 심각하게 불확실성을 과소평가했다.
• GSVGD는 구성 요소 간 상관관계를 포착하는 m차원 부분공간을 활용함으로써 고차원 문제에서 분산 과소평가 문제를 줄였다.
• 다양한 프로젝션 차원에서 GSVGD 결과와 HMC 기준 간의 에너지 거리가 SVGD 및 S-SVGD보다 일관되게 낮아, 더 우수한 근사 품질을 나타낸다.
• GSVGD의 최적 프로젝션 차원은 비직관적이지만 중간 범위 내에 존재하며(예: 스토케스틱 프로세스 문제에서 m ≈ 20), 다양한 m 값에서 성능이 안정적이다.
• 헤우리스틱 기반 튜닝을 통해 GSVGD는 하이퍼파rameter 선택에 대해 강건한 편이지만, 민감도 분석 결과 최적 성능을 내기 위해 사례별 튜닝이 필요할 수 있음을 시사한다.