[논문 리뷰] Scalar-on-Image Regression via the Soft-Thresholded Gaussian Process

Jian Kang, Brian J. Reich외 1명|arXiv (Cornell University)|2016. 04. 12.

Statistical Methods and Inference참고 문헌 19인용 수 3

한 줄 요약

이 논문은 스칼라-온-이미지 회귀를 위한 소프트-임계값 설정된 가우시안 프로세스를 제안하며, 희소성, 조각별로 부드러운 전이, 활성 및 비활성 영역 간의 연속적인 전이를 갖는 공간적으로 변화하는 계수 추정을 가능하게 한다. 이 방법은 낮은 랭크 공간 모델과 효율적인 베이지안 계산을 통해, 진짜 예측 변수의 수가 표본 크기보다 초과하는 경우에도 파rameter 추정과 변수 선택에 대해 사후 일致성을 확보한다.

ABSTRACT

The focus of this work is on spatial variable selection for scalar-on-image regression. We propose a new class of Bayesian nonparametric models, soft-thresholded Gaussian processes and develop the efficient posterior computation algorithms. Theoretically, soft-thresholded Gaussian processes provide large prior support for the spatially varying coefficients that enjoy piecewise smoothness, sparsity and continuity, characterizing the important features of imaging data. Also, under some mild regularity conditions, the soft-thresholded Gaussian process leads to the posterior consistency for both parameter estimation and variable selection for scalar-on-image regression, even when the number of true predictors is larger than the sample size. The proposed method is illustrated via simulations, compared numerically with existing alternatives and applied to Electroencephalography (EEG) study of alcoholism.

연구 동기 및 목표

• 대부분의 볼륨이 무의미한 고차원적이고 공간적으로 상관된 영상 예측 변수를 갖는 스칼라-온-이미지 회귀 문제에 도전한다.
• 희소성과 부드러움을 위한 별도의 사전 분포를 사용하는 기존 방법의 한계를 극복하며, 이는 활성 영역와 비활성 영역 간에 급격한 전이를 초래할 수 있다.
• 실제 신경영상 효과를 반영하는 연속적인 전이를 보장하는 통합된 베이지안 비모수적 프레임워크를 개발한다.
• 진짜 예측 변수의 수가 표본 크기를 초과하는 경우에도, 미약한 정규성 조건 하에서 계수 추정과 변수 선택에 대해 이론적 사후 일치성을 확립한다.
• 잠재 가우시안 프로세스의 낮은 랭크 공간 모델을 통해 확장 가능한 추론을 가능하게 하여, 대규모 영상 데이터셋에 대한 계산 효율성을 향상시킨다.

제안 방법

• 소프트-임계값 설정 변환을 통해 잠재 가우시안 프로세스의 공간적으로 변화하는 회귀 계수를 모델링하며, 이 소프트-임계값 설정은 희소성과 연속적인 전이를 유도한다.
• 대규모 영상 데이터셋에 대한 계산 확장성을 확보하기 위해 잠재 가우시안 프로세스의 낮은 랭크 표현을 사용한다.
• 소프트-임계값 설정된 가우시안 프로세스를 $ \beta(s) = \text{sign}(\eta(s)) \cdot \max(0, |\eta(s)| - \lambda) $ 로 정의한다. 여기서 $ \eta(s) $ 는 잠재 GP이고 $ \lambda $ 는 임계값 설정 파라미터이다.
• 임계값 설정 수준의 자동 선택을 가능하게 하기 위해 $ \lambda $ 에 계층적 사전분포를 할당한다. 이는 데이터 기반의 희소성을 가능하게 한다.
• 잠재 프로세스와 하이퍼파ram터에 대한 블록 업데이트를 사용한 متر플리스-해스팅 알고리즘을 활용하여 효율적인 사후 계산을 보장한다.
• 낮은 랭크 구조를 활용하여 잠재 프로세스의 차원을 감소시켜, 고차원 영상 데이터에 대한 MCMC 샘플링의 가능성을 확보한다.

실험 결과

연구 질문

• RQ1 통합된 베이지안 비모수적 모델은 스칼라-온-이미지 회귀에서 공간적으로 변화하는 계수에 대해 희소성과 부드러움을 동시에 달성할 수 있는가?
• RQ2 소프트-임계값 설정된 가우시안 프로세스는 활성 영역와 비활성 영역 간에 급격한 전이를 보이는 모델에 비해 뇌 활동 패턴을 더 현실적으로 표현하는가?
• RQ3 계수 함수의 사후 분포가 진짜 함수 주위에 집중하는 정규성 조건은 무엇이며, 이는 사후 일치성을 보장하는가?
• RQ4 진짜 예측 변수의 수가 표본 크기를 초과하는 경우에도 이 방법이 계수 추정과 변수 선택에 대해 사후 일치성을 달성할 수 있는가?
• RQ5 시뮬레이션 및 실제 EEG 데이터에서, 기존 대안 대비 변수 선택 정확도와 추정 효율성 측면에서 성능이 어떻게 비교되는가?

주요 결과

• 소프트-임계값 설정된 가우시안 프로세스는 조각별로 부드럽고, 희소적이며, 연속적인 계수 함수의 광범위한 사전 지원을 제공하며, 영상 데이터의 핵심 특징을 잘 반영한다.
• 진짜 예측 변수의 수가 표본 크기를 초과하는 경우에도, 미약한 정규성 조건 하에서 계수 추정과 변수 선택에 대해 사후 일치성이 입증된다.
• 이 방법은 영역 간에 영역 간의 급격한 변화 없이, 영역 간에 점진적인 전이를 보여주며, 별도의 희소성 및 부드러움 사전분포를 사용하는 모델에서 관찰되는 급격한 전이를 피한다.
• 잠재 GP의 낮은 랭크 근사화는 확장 가능한 계산을 가능하게 하여, 이 방법을 대규모 영상 데이터셋에 적용 가능하게 한다.
• 수치적 비교 결과, 특히 공간적으로 구조화된 효과를 회복하는 데 있어 기존 대안보다 향상된 성능을 보였다.
• 알코올 중독에 대한 EEG 연구에 적용한 결과, 질병과 관련된 생물학적으로 타당한 뇌 활동 패턴을 도출하였으며, 안정적이고 해석 가능한 변수 선택 결과를 얻었다.