[논문 리뷰] Integrating Multisource Block-Wise Missing Data in Model Selection

Fei Xue, Annie Qu|arXiv (Cornell University)|2019. 01. 12.

Statistical Methods and Inference참고 문헌 63인용 수 11

한 줄 요약

이 논문은 블록 단위로 누락된 다중 소스 데이터를 통합하기 위한 다중 블록별 보정(MBI) 방법을 제안한다. 완전한 관측치와 불완전한 관측치를 모두 활용하여 변수 선택과 추정 효율성을 향상시킨다. MBI 방법은 누락 패턴 그룹 간에 가중치가 부여된 추정 방정식을 구성하여, 저차원 및 고차원 설정 모두에서 추정 및 모델 선택의 일致성을 달성한다. 정보가 풍부한 누락 상황에서도 기존 방법보다 뛰어난 성능을 보인다.

ABSTRACT

For multi-source data, blocks of variable information from certain sources are likely missing. Existing methods for handling missing data do not take structures of block-wise missing data into consideration. In this paper, we propose a Multiple Block-wise Imputation (MBI) approach, which incorporates imputations based on both complete and incomplete observations. Specifically, for a given missing pattern group, the imputations in MBI incorporate more samples from groups with fewer observed variables in addition to the group with complete observations. We propose to construct estimating equations based on all available information, and optimally integrate informative estimating functions to achieve efficient estimators. We show that the proposed method has estimation and model selection consistency under both fixed-dimensional and high-dimensional settings. Moreover, the proposed estimator is asymptotically more efficient than the estimator based on a single imputation from complete observations only. In addition, the proposed method is not restricted to missing completely at random. Numerical studies and ADNI data application confirm that the proposed method outperforms existing variable selection methods under various missing mechanisms.

연구 동기 및 목표

• 고차원 설정에서 다중 소스의 블록 단위 누락 데이터를 처리하는 데 있어 기존 방법의 한계를 해결하기 위해.
• 누락 패턴 그룹 간의 완전한 관측치와 불완전한 관측치에서 유용한 정보를 통합하여 변수 선택과 매개변수 추정을 향상시키기 위해.
• 완전하게 무작위로 누락(MCAR)이 아닌 경우에도, 누락이 무작위(MAR) 및 정보가 풍부한 누락 메커니즘에서 일致성과 효율성을 유지하는 방법을 개발하기 위해.
• 다양한 누락 패턴을 가진 여러 그룹의 보정을 통합하여, 더 유용한 추정 함수에 더 높은 가중치를 할당하기 위해.
• 단일 보정 접근 방식과 비교하여 제안된 추정기의 이론적 일치성과 점근적 효율성을 확립하기 위해.

제안 방법

• 완전 케이스 그룹과 관측 변수 수가 적은 불완전 그룹으로부터의 보정을 통합하는 다중 블록별 보정(MBI) 프레임워크를 제안한다.
• 모든 가용 데이터를 기반으로 추정 방정식을 구성하며, 다양한 누락 패턴 그룹에서의 유용한 추정 함수를 통합한다.
• 누락된 변수 수와 보정 정확도를 기반으로 추정 함수에 가중치를 할당하여, 더 신뢰할 수 있는 보정을 가진 그룹을 우선시한다.
• 일반화된 모멘트 방법(GMM)을 사용하여 매개변수를 추정함으로써 점근적 정규성과 효율성을 보장한다.
• 변수 선택을 위해 펜라이즈된 추정 방정식(예: SCAD 또는 라소 유형)을 적용하여 선택 일치성을 확보한다.
• 블록 단위 보정과 차원 감소 기법을 융합하여 고차원 설정으로의 확장을 도모한다.

실험 결과

연구 질문

• RQ1 통합된 방법이 고정 차원 및 고차원 설정에서 블록 단위로 누락된 다중 소스 데이터를 효과적으로 통합하면서 추정 및 선택 일치성을 유지할 수 있는가?
• RQ2 제안된 MBI 방법은 단일 보정 및 다중 보정 접근 방식과 비교해 볼 때 추정 효율성과 변수 선택 정확도에서 어떻게 다른가?
• RQ3 MBI 방법은 단지 누락이 무작위(MAR)일 때만 아니라 정보가 풍부한 누락 상황에서도 일치성과 효율성을 유지하는가?
• RQ4 복잡한 누락 패턴을 가진 실제 데이터에서 MBI 방법은 DISCOM, iMSF, iSFS와 같은 기존 방법을 능가할 수 있는가?
• RQ5 MBI 추정기의 점근적 효율성과 일치성에 대한 이론적 근거는 무엇인가?

주요 결과

• 제안된 MBI 방법은 고정 차원 및 고차원 설정 모두에서 추정 및 모델 선택 일치성을 달성한다.
• MBI 추정기는 완전 케이스만 기반으로 하는 단일 보정 추정기보다 점근적으로 더 효율적이다.
• 수치 실험에서 MBI는 예측의 RMSE를 낮추고 경쟁 방법보다 더 적은 수의 변수를 선택했으며, 관련 생물학적 마커를 더 정확하게 식별했다.
• ADNI 데이터셋에서 MBI는 29개의 MRI, 2개의 PET, 10개의 유전자 발현 생물학적 마커를 선택했으며, 알츠하이머병과 생물학적으로 연관된 SFRP1 및 해마 부피와 같은 임상적으로 유의미한 마커를 포함했다.
• MBI 방법은 다른 방법들이 선택하지 않은 두 가지 고유한 MRI 특징—좌측 후두엽의 평균 케이스 두께와 우측 시간엽의 케이스 두께의 표준편차—를 식별했으며, 이는 알츠하이머병과 관련이 있음이 알려져 있다.
• 예측 정확도와 변수 선택 측면에서 MBI 방법은 85%의 누락률과 정보가 풍부한 누락 메커니즘 하에서 DISCOM, CC-SCAD, DISCOM-Huber를 모두 능가했다.