[논문 리뷰] Fitting Linear Mixed-Effects Models Using lme4

Douglas M. Bates, Martin Mächler외 2명|arXiv (Cornell University)|2014. 06. 23.

Data Analysis with R참고 문헌 4인용 수 2,577

한 줄 요약

이 논문은 최대우도 또는 제한된 최대우도(REML) 추정을 사용하여 선형 혼합효과 모형을 피팅하기 위한 R의 lme4 패키지를 제시한다. 계산 프레임워크를 상세히 설명하며, 모형 설정, 희소 행렬 기법, 콜레츠키 분해, 그리고 페널라이즈드 최소제곱 최적화를 포함하여, 난이도 높은 계층적 데이터에 대한 효율적이고 유연한 분석을 가능하게 한다.

ABSTRACT

(Uploaded by Plazi for the Bat Literature Project) Maximum likelihood or restricted maximum likelihood (REML) estimates of the parameters in linear mixed-effects models can be determined using the lmer function in the lme4 package for R. As for most model-fitting functions in R, the model is described in an lmer call by a formula, in this case including both fixed- and random-effects terms. The formula and data together determine a numerical representation of the model from which the profiled deviance or the profiled REML criterion can be evaluated as a function of some of the model parameters. The appropriate criterion is optimized, using one of the constrained optimization functions in R, to provide the parameter estimates. We describe the structure of the model, the steps in evaluating the profiled deviance or REML criterion, and the structure of classes or types that represents such a model. Sufficient detail is included to allow specialization of these structures by users who wish to write functions to fit specialized linear mixed models, such as models incorporating pedigrees or smoothing splines, that are not easily expressible in the formula language used by lmer.

연구 동기 및 목표

• R에서 선형 혼합효과 모형을 피팅하기 위한 강력하고 효율적이며 확장 가능한 프레임워크를 제공하기 위해.
• 중간 크기의 데이터셋(10^4–10^6 건의 관측치)에서 혼합모형을 피팅할 때 발생하는 계산적 과제를 해결하기 위해.
• 모듈러 설계와 확장성 훅을 통해 표준 공식 문법을 초월한 모델 명세를 지원하기 위해.
• 모듈러 아키텍처와 실험적 브랜치를 통해 향후 개선 사항을 가능하게 하면서도 이전 버전과의 호환성을 유지하기 위해.
• 선형 혼합모형에 대한 계산 파이프라인을 문서화하고 표준화하여, 최종 사용자와 개발자 모두를 지원하기 위해.

제안 방법

• 응답 변수 Y와 난수 효과 B의 공동 분포를 사용하여 선형 혼합모형을 설정하며, B가 주어진 조건 하에서 정규분포임을 가정한다.
• 난수 효과의 분산-공분산 행렬 Σθ = σ²ΛθΛᵀθ를 매개변수화하기 위해 상대 공분산 인자 Λθ를 사용한다.
• 특히 큰 희소 설계에서 효율성을 높이기 위해 Z와 Λθ에 대해 희소 행렬 표현을 사용한다.
• 프로파일링된 REML 또는 로그우도 기준에서 유도된 페널라이즈드 최소제곱(PLS) 문제를 해결하기 위해 콜레츠키 분해를 적용한다.
• R 내의 제약 조건이 있는 최적화 루틴을 사용하여 프로파일링된 기준을 최적화하며, 반복적 보정을 통해 매개변수 추정을 수행한다.
• 공식 구문 분석, 기준 평가, 최적화, 모형 추론에 대한 모듈러 함수를 제공하여 확장성과 맞춤 설정을 가능하게 한다.

실험 결과

연구 질문

• RQ1 현대적인 희소 행렬 기법을 사용하여 R에서 선형 혼합효과 모형을 효율적이고도 민감하게 구현하는 방법은 무엇인가?
• RQ2 복잡한 난수 효과 구조를 가진 대규모 데이터셋에서 혼합모형의 추정을 확장 가능하게 하는 계산 전략은 무엇인가?
• RQ3 lme4 프레임워크는 가족 구조나 스무딩 스퍼라인과 같은 표준 공식 문법을 초월한 모형을 어떻게 지원할 수 있는가?
• RQ4 lme4의 현재 PLS 설정과 헨더슨의 혼합모형 방정식과 같은 이전 접근 방식 간의 핵심 차이는 무엇인가?
• RQ5 프로파일 우도, 파arametric 부트스트랩, 사후 예측 시뮬레이션과 같은 고급 추론을 어떻게 지원할 수 있는가?

주요 결과

• lme4 패키지는 효율적인 희소 행렬 계산과 콜레츠키 기반 PLS 해법을 사용하여 선형 혼합모형의 REML 및 ML 추정을 성공적으로 구현한다.
• 수면 부족 연구 사례에서는 고정효과로 截距 항이 251.4 ms, 기울기 항이 10.47 ms/일이며, 난수 효과의 표준편차는 각각 24.74 ms와 5.92 ms/일로 나타났다.
• 프로파일 우도 플롯(zeta, 밀도, 쌍 그래프)은 난수 효과 매개변수의 표본 분포가 약간의 비선형성 외에는 정규분포에 가까운 것으로 나타났다.
• lme4의 모듈러 설계는 확장성을 가능하게 하며, gamm4와 blme와 같은 패키지에서 확장 훅을 사용하여 모형 기능을 확장하는 데 활용되었다.
• fitted, predict, simulate 메서드를 통해 선택적 난수 효과 조건 또는 난수 효과를 0으로 설정하는 옵션을 제공함으로써 모델의 예측 및 시뮬레이션을 민감하게 지원한다.
• 구현은 안정적이고 확장 가능하며, 최대 10^6 건의 관측치를 지원하며, 줄리아의 MixedModels 및 lme4의 flexLambda 브랜치와 같은 관련 도구의 기초가 되었다.