[논문 리뷰] varbvs: Fast Variable Selection for Large-scale Regression

Peter Carbonetto, Xiang Zhou외 1명|arXiv (Cornell University)|2017. 09. 19.

Genetic and phenotypic traits in livestock참고 문헌 1인용 수 10

한 줄 요약

이 논문은 대규모 회귀 분석에서 중요한 예측 변수를 효율적으로 식별하기 위해 변분 추론을 사용하는 빠른 베이지안 변수 선택 방법인 varbvs를 소개한다. 이 방법은 선형 계산 복잡도를 달성하여 표준 랩탑에서 4분 이내에 정확한 사후 추론을 수행하며, 유전적 데이터에서 진정한 양적 형질 유전자 위치(QTL)를 탐지하는 데 기존의 단일 마커 방법보다 뛰어난 성능을 보인다.

ABSTRACT

We introduce varbvs, a suite of functions written in R and MATLAB for regression analysis of large-scale data sets using Bayesian variable selection methods. We have developed numerical optimization algorithms based on variational approximation methods that make it feasible to apply Bayesian variable selection to very large data sets. With a focus on examples from genome-wide association studies, we demonstrate that varbvs scales well to data sets with hundreds of thousands of variables and thousands of samples, and has features that facilitate rapid data analyses. Moreover, varbvs allows for extensive model customization, which can be used to incorporate external information into the analysis. We expect that the combination of an easy-to-use interface and robust, scalable algorithms for posterior computation will encourage broader use of Bayesian variable selection in areas of applied statistics and computational biology. The most recent R and MATLAB source code is available for download at Github (https://github.com/pcarbo/varbvs), and the R package can be installed from CRAN (https://cran.r-project.org/package=varbvs).

연구 동기 및 목표

• 고차원 회귀 설정에서 베이지안 변수 선택을 위한 계산적으로 효율적인 방법을 개발하는 것.
• 예를 들어 전장 유전자 연관 분석(GWAS)과 같은 대규모 유전자 데이터에서 변수 포함 확률의 정확한 추론을 가능하게 하는 것.
• 기존의 마르코프 체인 몬테카를로(MCMC) 또는 단일 마커 접근 방식과 비교해 계산 부담을 줄이면서도 통계적 정확성을 유지하는 것.
• 수천 개의 예측 변수와 샘플을 처리할 수 있는 수치적으로 안정적이고 확장 가능한 구현을 제공하여 실제 응용에 적합한 것.
• 근거 있는 사전 선택과 사후 근사화를 통해 불확실성 정량화를 지원하는 것.

제안 방법

• 방법은 변수 간 조건부 독립성 가정을 바탕으로 한 공동 사후분포의 변분 근사화를 사용한다.
• 표본 수와 예측 변수 수 모두에서 선형 시간 스케일링을 가능하게 하기 위해, 변분 하한을 최적화하기 위한 좌표 상승 알고리즘을 사용한다.
• 특히 XᵀDX의 대각 성분을 계산할 때 수치적으로 안정적인 행렬 연산 업데이트를 구현하여 부동소수점 오차로 인한 조기 수렴을 방지한다.
• 기존의 베이지안 선형 모델 연구를 바탕으로 한 기본 사전분포를 제공하며, 하이퍼파rameter는 경험 베이즈를 통해 선택하여 사전 선택에 대한 민감도를 줄인다.
• 표현형(예: 고환 무게)의 예측자로 모든 SNP를 함께 모델링하기 위해 공변량(예: 체중)을 포함한다.
• 각 변수에 대해 사후 포함 확률(PIPs)을 계산하며, 염색체 그룹화를 통해 결과를 시각화하여 관심 영역을 식별할 수 있다.

실험 결과

연구 질문

• RQ1 수천 개의 예측 변수를 가진 대규모 회귀 분석에서 빠른 변분 추론 방법이 정확한 변수 선택을 달성할 수 있는가?
• RQ2 유전적 데이터에서 진정한 양적 형질 유전자 위치(QTL)를 탐지할 때, 다중 마커 베이지안 변수 선택이 단일 마커 접근 방식보다 어떻게 다른가?
• RQ3 고차원 베이지안 모델에서 행렬 연산의 수치적 불안정성이 수렴과 해의 품질에 얼마나 영향을 미치는가?
• RQ4 확장 가능한 하이퍼파rameter 조정이 필요 없이 기본 사전분포가 강건한 추론을 제공할 수 있는가?
• RQ5 변분 매개변수의 초기화에 결과가 얼마나 민감한가? 그리고 초기화 전략을 통해 수렴을 향상시킬 수 있는가?

주요 결과

• varbvs 알고리즘이 표준 랩탑에서 993只의 쥐와 79,748개의 SNP를 가진 데이터에 대해 4분 이내에 모델 피팅을 완료하여 높은 계산 효율성을 입증했다.
• 사후 포함 확률이 0.5를 초과한 SNP는 총 3개뿐이었으며, 체중 조정 후 잔차 분산의 15%를 설명했다.
• 상위 SNP인 rs6279141의 사후 포함 확률은 1.00이었고, 분산의 6.31%를 설명했으며, 고환 형태 형성과 관련된 Inhba 유전자 근처에 위치해 있었다.
• 단일 마커 분석에서 놓친 염색체 2에 위치한 QTL를 방법이 식별하여, 상관관계가 있는 신호를 탐지하는 데 다중 마커 모델링의 우수성을 입증했다.
• 행렬 연산 순서를 재정렬함으로써 수치적 안정성이 크게 향상되었으며, 더 안정적인 업데이트(xdx2)는 매끄러운 수렴과 조기 종료 방지를 달성했다.
• varbvs에서 도출된 사후 포함 확률은 단일 마커 p-값과 강한 일치를 보였으며, SNP 간 상관관계를 고려하면서도 진정한 연관성을 탐지할 수 있음을 검증했다.