[논문 리뷰] Missing data analysis and imputation via latent Gaussian Markov random fields

Virgilio Gómez‐Rubio, Michela Cameletti외 1명|arXiv (Cornell University)|2019. 12. 23.

Statistical Methods and Bayesian Inference인용 수 6

한 줄 요약

이 논문은 INLA 프레임워크 내에서 공변량의 누락값 보정을 위한 완전 베이지안 접근법을 제안한다. 이 방법은 공변량 보정을 잠재된 가우시안 마르코프 무작위장(field, GMRF)으로 모델링하며, 데이터, 보정된 공변량, 누락 메커니즘을 빠르게 공동으로 모델링할 수 있도록 한다. 이는 무시 가능 및 비무시 가능한 누락에 대한 민감도 분석을 가능하게 하며, 효율적인 계산과 공간적 및 다변량 설정으로의 확장성을 제공한다.

ABSTRACT

In this paper we recast the problem of missing values in the covariates of a regression model as a latent Gaussian Markov random field (GMRF) model in a fully Bayesian framework. Our proposed approach is based on the definition of the covariate imputation sub-model as a latent effect with a GMRF structure. We show how this formulation works for continuous covariates and provide some insight on how this could be extended to categorical covariates. The resulting Bayesian hierarchical model naturally fits within the integrated nested Laplace approximation (INLA) framework, which we use for model fitting. Hence, our work fills an important gap in the INLA methodology as it allows to treat models with missing values in the covariates. As in any other fully Bayesian framework, by relying on INLA for model fitting it is possible to formulate a joint model for the data, the imputed covariates and their missingness mechanism. In this way, we are able to tackle the more general problem of assessing the missingness mechanism by conducting a sensitivity analysis on the different alternatives to model the non-observed covariates. Finally, we illustrate the proposed approach with two examples on modeling health risk factors and disease mapping. Here, we rely on two different imputation mechanisms based on a typical multiple linear regression and a spatial model, respectively. Given the speed of model fitting with INLA we are able to fit joint models in a short time, and to easily conduct sensitivity analyses.

연구 동기 및 목표

• 공변량의 누락값을 다루는 데 있어 INLA 방법론의 격차를 보완하기 위해, 보정을 잠재된 GMRF 프레임워크에 통합함으로써 공변량의 누락값을 처리하는 데 목적이 있다.
• 완전 베이지안 프레임워크 내에서 분석 모델, 보정된 공변량, 그리고 누락 메커니즘을 공동으로 모델링할 수 있도록 하는 것이 목적이다.
• INLA의 계산 속도를 활용하여 다양한 누락 메커니즘(예: MCAR, MNAR)에 대한 민감도 분석을 지원하는 것이 목적이다.
• 공변량이 누락된 모델, 특히 공간적 및 다변량 설정에 대한 INLA의 적용 가능성을 확장하는 것이 목적이다.
• 회귀 모델에서 누락된 데이터를 위한 MCMC 기반 보정 방법에 대한 계산 효율성이 뛰어난 대안을 제공하는 것이 목적이다.

제안 방법

• 계층적 베이지안 모델 내에서 공변량의 누락값 보정을 잠재된 GMRF 효과로 모델링한다.
• 보정 하위 모델을 정규 마르코프 무작위장(GMRF)으로 설정하고 적절한 정밀도 행렬을 사용하여 INLA를 통한 효율적 계산을 가능하게 한다.
• 보정 모델과 주요 분석 모델을 하나의 공동 모델로 통합하여, 보정에서 파arameter 추정으로의 불확실성 전파를 가능하게 한다.
• INLA 프레임워크를 사용하여 빠른 사후 분포 계산을 수행함으로써 시간이 오래 걸리는 MCMC 샘플링이 필요 없도록 한다.
• 공간적으로 상관된 공변량을 다루기 위해 SPDE 방법 또는 기타 GMRF 기반 상관 구조를 사용하여 접근법을 확장한다.
• R-INLA 패키지 내에서 MIINLA 패키지를 통해 구현하며, 사용자 정의 잠재 효과를 위한 rgeneric 프레임워크를 활용한다.

실험 결과

연구 질문

• RQ1 회귀 모델에서 누락된 공변량은 INLA 프레임워크 내에서 잠재된 GMRF 구조를 사용하여 효과적으로 보정될 수 있는가?
• RQ2 INLA 내에서 보정 모델과 분석 모델을 공동으로 모델링할 경우, 별도의 보정 및 분석보다 추론 정확도와 불확실성 정량화에 어떤 개선이 이루어지는가?
• RQ3 제안된 방법은 최소한의 계산 비용으로 다양한 누락 메커니즘(MCAR 대비 MNAR 등)에 대한 민감도 분석을 어느 정도 지원할 수 있는가?
• RQ4 GMRF 기반 보정을 통해 다중 누락 공변량 또는 범주형 변수를 다룰 수 있는가?
• RQ5 속도와 정확도 측면에서 INLA 기반 보정 방법은 기존의 다중 보정 또는 MCMC 접근법보다 어떻게 비교되는가?

주요 결과

• 제안된 방법은 INLA에 공변량의 누락값을 포함한 모델을 적합할 수 있도록 하여, INLA 프레임워크 내 핵심적인 방법론적 격차를 메우는 데 성공했다.
• 분석 모델, 보정된 공변량, 그리고 누락 메커니즘의 공동 모델링은 다양한 누락 가정 하에서 적절한 불확실성 전파와 민감도 분석을 가능하게 한다.
• INLA의 계산 속도 덕분에 다양한 누락 메커니즘 하에서 여러 모델을 신속하게 적합시킬 수 있어 포괄적인 민감도 분석을 가능하게 한다.
• MNAR 및 MCAR 메커니즘 하에서 보정된 값의 사후 마진 분포는 서로 다른 패턴을 보였으며, MNAR의 경우 진짜 값에 더 가까운 패턴을 보여, 방법이 실제 누락 메커니즘을 탐지하고 반영할 수 있음을 확인했다.
• 이 방법은 공간 모델 및 다변량 보정으로도 확장 가능하며, 실용적 사용을 위해 R-INLA 및 MIINLA 패키지에 구현되어 있다.
• 이 방법은 연속형 공변량에 대해 GMRF를 통해 보정을 지원하며, 베이지안 모델 평균 또는 확장된 잠재 효과를 통해 범주형 공변량 처리를 위한 길을 열어 놓고 있다.