[論文レビュー] Fitting Linear Mixed-Effects Models Using lme4

Douglas M. Bates, Martin Mächler+2 more|arXiv (Cornell University)|Jun 23, 2014

Data Analysis with R参考文献 4被引用数 2,577

ひとこと要約

この論文は、最尤推定または制限付き最尤推定（REML）を用いた線形混合効果モデルのフィッティングを目的としたR言語用のlme4パッケージを提示する。計算フレームワーク、すなわちモデル定式化、スパース行列法、コレスキー分解、罰則付き最小二乗最適化を詳細に記述し、ランダム効果を伴う複雑な階層的データの効率的かつ柔軟な分析を可能にする。

ABSTRACT

(Uploaded by Plazi for the Bat Literature Project) Maximum likelihood or restricted maximum likelihood (REML) estimates of the parameters in linear mixed-effects models can be determined using the lmer function in the lme4 package for R. As for most model-fitting functions in R, the model is described in an lmer call by a formula, in this case including both fixed- and random-effects terms. The formula and data together determine a numerical representation of the model from which the profiled deviance or the profiled REML criterion can be evaluated as a function of some of the model parameters. The appropriate criterion is optimized, using one of the constrained optimization functions in R, to provide the parameter estimates. We describe the structure of the model, the steps in evaluating the profiled deviance or REML criterion, and the structure of classes or types that represents such a model. Sufficient detail is included to allow specialization of these structures by users who wish to write functions to fit specialized linear mixed models, such as models incorporating pedigrees or smoothing splines, that are not easily expressible in the formula language used by lmer.

研究の動機と目的

• Rにおける線形混合効果モデルのフィッティングのための堅牢で効率的かつ拡張可能なフレームワークを提供すること。
• 中程度の大きさのデータセット（10^4～10^6件の観察値）における混合モデルのフィッティングにおける計算上の課題に対処すること。
• モジュラー設計と拡張性のためのフックを用いて、標準的な数式構文をはるかに超えた柔軟なモデル指定を可能にすること。
• モジュラーアーキテクチャと実験的ブランチを用いて、後方互換性を保ちつつ将来の拡張を可能にすること。
• 線形混合モデルのための計算パイプラインを文書化・標準化し、エンドユーザーおよび開発者の両方を支援すること。

提案手法

• 応答変数Yとランダム効果Bの共同分布を用いて線形混合モデルを定式化し、Bを条件とするときの正規分布を仮定する。
• ランダム効果の分散・共分散行列Σθ = σ²ΛθΛᵀθをパrameterizeするために相対的共分散因子Λθを用いる。
• 特に大規模でスパースな設計においても計算効率を高めるために、ZおよびΛθのスパース行列表現を採用する。
• プロファイル化されたREMLまたは対数尤度基準から導かれる罰則付き最小二乗問題（PLS）を解くためにコレスキー分解を適用する。
• R内蔵の制約付き最適化ルーチンを用いてプロファイル化基準を最適化し、反復的リファインメントによりパラメータ推定を実行する。
• 数式パース、基準評価、最適化、モデル推論のためのモジュラー関数を提供し、拡張性とカスタマイズを可能にする。

実験結果

リサーチクエスチョン

• RQ1 どのようにして現代のスパース行列技術を用いて、Rにおいて線形混合効果モデルを効率的かつ柔軟に実装できるか？
• RQ2 大規模なデータセットと複雑なランダム効果構造を伴う混合モデルのスケーラブルな推定を可能にする計算戦略は何か？
• RQ3 lme4フレームワークは、家系図やスムージングスプラインを含む、標準的な数式構文をはるかに超えたモデルをどのようにサポートできるか？
• RQ4 lme4における現在のPLS定式化とヘンダーソンの混合モデル方程式のような以前のアプローチとの主な相違点は何か？
• RQ5 フレームワークは、プロファイル尤度、パラメトリックブートストラップ、および事後予測シミュレーションを含む高度な推論をどのようにサポートできるか？

主な発見

• lme4パッケージは、効率的なスパース行列計算とコレスキーに基づくPLS解法を用いて、線形混合効果モデルのREMLおよびML推定を成功裏に実装している。
• 睡眠遮断研究の例では、固定効果が251.4 ms（切片）および10.47 ms/日（傾き）であり、ランダム効果の標準偏差が24.74 msおよび5.92 ms/日である。
• プロファイル尤度プロット（zeta、密度、ペアプロット）から、ランダム効果パラメータの標本分布はほぼ正規分布であり、プロファイルトレースに顕著な非線形性は見られない。
• lme4のモジュラー設計は拡張性を可能にし、gamm4 や blme などのパッケージがフックを用いてモデル機能を拡張している。
• fitted、predict、simulate のメソッドを通じて柔軟な予測とシミュレーションが可能であり、ランダム効果に条件づけるか、ゼロに設定するオプションがある。
• 実装は安定的かつスケーラブルであり、最大10^6件の観察値を扱える。また、Julia用のMixedModelsやlme4のflexLambdaブランチといった関連ツールの基盤を形成している。