[논문 리뷰] Statistical details of the default priors in the Bambi library

Jacob Westfall|arXiv (Cornell University)|2017. 02. 03.

Algorithms and Data Compression참고 문헌 2인용 수 14

한 줄 요약

이 논문은 Bambi Python 라이브러리에서 사용하는 베이지안 일반선형혼합모형을 위한 기본 약정보수분포의 통계적 기반을 설명한다. 이는 회귀 기울기의 독립적 정규분포 사전분포를 설정하고, 이들의 분산을 암시적 부분상관계수 표준편차에서 유도함으로써 척도에 불관심하고 해석 가능한 사전분포를 제공한다. 이는 데이터 구조에 적응하면서도 계산의 단순성과 강건성을 유지한다.

ABSTRACT

This is a companion paper to Yarkoni and Westfall (2017), which describes the Python package Bambi for estimating Bayesian generalized linear mixed models using a simple interface. Here I give the statistical details underlying the default, weakly informative priors used in all models when the user does not specify the priors. Our approach is to first deduce what the variances of the slopes would be if we were instead to have defined the priors on the partial correlation scale, and then to set independent Normal priors on the slopes with variances equal to these implied variances. Our approach is similar in spirit to that of Zellner's g-prior (Zellner 1986), in that it involves a multivariate normal prior on the regression slopes, with a tuning parameter to control the width or informativeness of the priors irrespective of the scales of the data and predictors. The primary differences are that here the tuning parameter is directly interpretable as the standard deviation of the distribution of plausible partial correlations, and that this tuning parameter can have different values for different coefficients. The default priors for the intercepts and random effects are ultimately based on the prior slope variances.

연구 동기 및 목표

• Bambi 라이브러리에서 베이지안 일반선형혼합모형을 위한 원칙적이고 해석 가능한 기본 사전분포 사양을 제공하기 위해.
• 예측변수 척도에 관계없이 사전분포의 정보량이 독립적이게 하기 위해 사전분포를 부분상관계수 표준편차에 기반시켜야 하기 위해.
• 보다 큰 유연성을 위해 계수별 조정 파rameter를 포함한 g-사전분포 프레임워크를 확장하기 위해.
• 소표본 또는 고차원 설정에서 강건한 추론을 지원하기 위해 약정보수분포를 활용하기 위해.
• 전문가 지식 없이도 사용자가 원칙적인 사전분포를 쉽게 적용할 수 있도록 하기 위해.

제안 방법

• 원하는 부분상관계수 표준편차에서 다변량정규분포 사전분포 분산으로의 변환을 통해 회귀 기울기의 암시적 분산을 유도하기.
• 유도된 암시적 분산으로 설정된 분산을 가진 각 회귀 기울기의 독립적 정규분포 사전분포 적용하기.
• 각 계수의 잠재적 부분상관계수 표준편차를 나타내는 조정 파rameter를 통해 계수별 정보량을 조절하기.
• 기울기 사전분포에서 유도된 동일한 분산 구조를 기반으로 절편과 난수 효과 사전분포 설정하기.
• 사전분포 척도 불변성을 확보하기 위해 원래의 회귀 계수가 아닌 부분상관계수 효과 크기로 사전분포 너비를 기준화하기.
• 사용자가 맞춤형 사전분포를 지정하지 않을 경우 자동으로 이러한 사전분포를 적용할 수 있도록 Bambi 라이브러리에 프레임워크 구현하기.

실험 결과

연구 질문

• RQ1 베이지안 회귀에서 기본 사전분포를 어떻게 만들면 예측변수 척도에 대해 해석 가능하고 강건한가?
• RQ2 부분상관계수 표준편차와 회귀 기울기 사전분포 분산 사이의 통계적 관계는 무엇인가?
• RQ3 g-사전분포 프레임워크는 어떻게 확장되어 계수별 정보량을 허용하게 되는가?
• RQ4 부분상관계수 기반 사전분포는 혼합모형에서 모형 수렴성과 사후추론에 어떤 영향을 미치는가?
• RQ5 사용자 友好的한 베이지안 모델링 라이브러리에서 약정보수분포를 어떻게 자동으로 적용할 수 있는가?

주요 결과

• Bambi의 기본 사전분포는 잠재적인 부분상관계수 표준편차를 원하는 값에서 유도되며, 이는 직접적으로 해석 가능하고 척도에 불관심하다.
• 각 기울기 사전분포의 분산은 부분상관계수 표준편차의 제곱으로 설정되어, 다양한 예측변수 척도에서 일관된 사전분포 정보량을 보장한다.
• 계수별 조정 파ram터를 통해 서로 다른 계수들이 서로 다른 수준의 사전정보량을 가질 수 있다.
• 이 방법은 조정 파ram터를 부분상관계수 표준편차로 해석할 수 있도록 하여 Zellner의 g-사전분포를 일반화한다.
• 절편과 난수 효과 사전분포는 고정효과에 사용된 동일한 분산 구조에 의해 암시적으로 결정되며, 이는 모델 구성 요소 간의 일관성을 보장한다.
• 이 프레임워크는 사용자 지식 없이도 Bambi에서 강건하고 자동적인 사전분포 사양을 가능하게 한다.