[논문 리뷰] Bayesian Structured Sparsity from Gaussian Fields

Barbara E. Engelhardt, Ryan P. Adams|arXiv (Cornell University)|2014. 07. 08.

Genetic and phenotypic traits in livestock참고 문헌 50인용 수 12

한 줄 요약

이 논문은 회귀 계수의 유사성 기반 수축을 유도하기 위해 가우시안 프로세스를 사용하는 베이지안 구조적 스파arsity 모델을 제안한다. 타당한 계산을 위해 타원형 샘플링을 활용하며, 특성 유사성, 사후 포함 확률, 모델 평균화를 통해 연관성 맵핑의 민감도와 정밀도를 향상시켜 기존 방법보다 게놈 데이터 분석에서 뛰어난 성능을 발휘한다.

ABSTRACT

Substantial research on structured sparsity has contributed to analysis of many different applications. However, there have been few Bayesian procedures among this work. Here, we develop a Bayesian model for structured sparsity that uses a Gaussian process (GP) to share parameters of the sparsity-inducing prior in proportion to feature similarity as defined by an arbitrary positive definite kernel. For linear regression, this sparsity-inducing prior on regression coefficients is a relaxation of the canonical spike-and-slab prior that flattens the mixture model into a scale mixture of normals. This prior retains the explicit posterior probability on inclusion parameters---now with GP probit prior distributions---but enables tractable computation via elliptical slice sampling for the latent Gaussian field. We motivate development of this prior using the genomic application of association mapping, or identifying genetic variants associated with a continuous trait. Our Bayesian structured sparsity model produced sparse results with substantially improved sensitivity and precision relative to comparable methods. Through simulations, we show that three properties are key to this improvement: i) modeling structure in the covariates, ii) significance testing using the posterior probabilities of inclusion, and iii) model averaging. We present results from applying this model to a large genomic dataset to demonstrate computational tractability.

연구 동기 및 목표

• 특성 유사성을 가우시안 프로세스 사전분포를 통해 통합하는 구조적 스파arsity를 위한 베이지안 프레임워크를 개발하는 것.
• 고차원 회귀 설정($p \gg n$)에서 계산이 타당해지도록 하면서도 특성 포함에 대한 명시적 사후 추론을 유지하는 것.
• 예측 변수의 구조를 모델링하고 사후 포함 확률을 사용하여 유의성 검정을 수행함으로써 게놈 데이터에서 진짜 연관성을 더 잘 탐지하는 것.
• 임의의 유사성 측정법에 적응할 수 있는 일반적이고 융통성 있는 사전분포를 제공하는 것.
• 대규모 게놈 데이터셋에서 기존 방법에 비해 계산 타당성과 통계적 우수성을 입증하는 것.

제안 방법

• 모형은 프로비트 회귀 모델의 잠재 변수에 가우시안 프로세스 사전분포를 적용하여 회귀 계수의 구조적 스파arsity를 유도한다.
• 스피크-앤드-슬래브 사전분포를 연속적이고 계산 가능한 형태로 유연하게 변형하기 위해 정규분포의 척도 혼합을 사용하며, 사후 포함 확률을 유지한다.
• 잠재 가우시안 필드는 타원형 샘플링을 통해 샘플링되어 고차원 설정에서 효율적인 사후 계산이 가능해진다.
• 특성 유사성은 임의의 정규 양의 정합 행렬을 통해 표현되며, 도메인 특화의 유사성 측정법이 수축을 이끌 수 있도록 한다.
• 특성 선택의 표본 편향에 대한 민감도를 줄이고 강건성을 향상시키기 위해 모델 평균화를 적용한다.
• 지역 정규화 항을 수정함으로써 밀집된 그룹 내 및 희박한 그룹 내 스파arsity에 대한 잠재적 응용을 지원한다.

실험 결과

연구 질문

• RQ1 특성 유사성을 가우시안 프로세스를 통해 활용하는 베이지안 구조적 스파arsity 모델이 고차원 회귀에서 민감도와 정밀도를 향상시킬 수 있는가?
• RQ2 포함 확률에 대한 잠재 가우시안 필드를 통합할 경우, 표준 펜라이즈드 또는 비베이지안 방법에 비해 모델 선택 성능에 어떤 영향을 미치는가?
• RQ3 사후 포함 확률과 모델 평균화가 약한 연관성을 가진 예측 변수를 탐지하는 데 통계적 검정력에 얼마나 기여하는가?
• RQ4 이 방법은 수백만 개의 SNP를 포함하는 대규모 게놈 데이터셋에 계산적으로 확장 가능한가?
• RQ5 특성 유사성 측정을 위한 커널의 선택이 구조화된 데이터에서 진짜 연관성을 회복하는 데에 얼마나 영향을 미치는가?

주요 결과

• 제안된 모델은 비교 가능한 방법에 비해 양적 형질과 연관된 유전자 변이를 식별하는 데 있어 상당히 향상된 민감도와 정밀도를 달성하였다.
• 시뮬레이션 결과, 세 가지 요소—예측 변수의 구조 모델링, 사후 포함 확률을 통한 유의성 검정, 모델 평균화—가 성능 향상의 핵심 요소로 밝혀졌다.
• 모델은 대규모 게놈 데이터셋에서도 계산 타당성을 유지하여 수만 명의 개체와 최대 4000만 개의 SNP를 포함한 연구에 적용 가능했다.
• 가우시안 프로세스 사전분포의 사용으로 예측 변수 간의 임의의 유사성 측정법을 탄력적으로 통합할 수 있었으며, 도메인 특화된 구조에 대한 적응성 향상에 기여했다.
• 밀집된 그룹 내 선택을 강제하는 그룹 스파arsity 방법보다 더 해석 가능하고 희박한 해를 제공하며 통계적 검정력이 뛰어난 성능을 보였다.
• 유전체의 윈도우 단위로 병렬 처리를 통해 확장 가능한 추론을 지원하며, 다중 척도 또는 변분 방법을 통해 추가로 확장 가능성이 있다.