[論文レビュー] Parsimoniously Fitting Large Multivariate Random Effects in glmmTMB

Maeve McGillycuddy, Gordana Popović+2 more|arXiv (Cornell University)|Nov 7, 2024

Statistical Methods and Inference被引用数 4

ひとこと要約

本論文は、glmmTMB Rパッケージにおいて、高次元の多変量分散効果を、より少ない潜在変数（d < q）の線形結合として表現することで、低ランクのアプローチを導入する。これにより、高次元の相関構造を持つ複雑な混合モデルの効率的推定が可能となり、非構造的分散共分散行列の収束および計算限界を克服する。この手法により、生態学的および社会科学的データにおける多変量応答のスケーラブルなモデリングが可能となる。

ABSTRACT

Multivariate random effects with unstructured variance-covariance matrices of large dimensions, $q$, can be a major challenge to estimate. In this paper, we introduce a new implementation of a reduced-rank approach to fit large dimensional multivariate random effects by writing them as a linear combination of $d &lt; q$ latent variables. By adding reduced-rank functionality to the package glmmTMB, we enhance the mixed models available to include random effects of dimensions that were previously not possible. We apply the reduced-rank random effect to two examples, estimating a generalized latent variable model for multivariate abundance data and a random-slopes model.

研究の動機と目的

• 一般化線形混合モデルにおける、大規模次元（q）の非構造的多変量分散効果をフィットする際の計算および推定の課題に対処すること。
• glmmTMBパッケージに低ランク要因分析構造を拡張し、高次元多変量分散効果を効率的に処理すること。
• 多段階および繰返し測定などの複雑な研究設計の柔軟なモデリングを可能にしつつ、単純性と計算可能性を維持すること。
• 例えば種の豊度やアンケート項目のような、多数の相関応答を持つ一般化潜在変数モデル（GLVM）の実用的解決策を提供すること。
• 従来の混合モデルパッケージでは不可能だった、数百や数千の種などの高次元分散効果の推定を可能にすること。

提案手法

• 大規模次元の多変量分散効果（q）を、d < q 個の潜在変数の線形結合として表現し、推定すべきパrameter数を q(q+1)/2 から d(q + d)/2 に削減する。
• 分散効果ベクトルを η = Lξ として表現する要因分析モデル構造を用い、ξ ~ N(0, I_d) であり、L は q×d の負荷行列である。
• 自動微分とラプラス近似を用いて、glmmTMBで尤度の周辺尤度を高速に推定する。
• 既存のglmmTMBインターフェースに低ランク構造を統合し、標準的な混合モデル構文とのシームレスな統合と、さまざまな指数型分布族のサポートを実現する。
• 最適なランク d を選択するために、複数の初期値と情報量基準（例：AIC）などの最適化戦略を適用する。
• 設計上、特異な分散共分散行列を許容することで、q が大きい場合に一般的な正定値推定における収束問題を回避する。

Figure 1: Boxplot of fish abundance ( $\log(y+1)$ scale) for each species at three zones, windfarm (WF, green), north (N, orange), and south (S, lilac), before (2003) and after (2010) construction of the offshore wind farm.

実験結果

リサーチクエスチョン

• RQ1 低ランク要因分析構造が、glmmTMBに効果的に統合可能であり、高次元多変量分散効果を推定できるか？
• RQ2 非構造的分散共分散行列と比較して、q が大きい場合に低ランクアプローチが推定の安定性および計算可能性をどのように向上させるか？
• RQ3 潜在変数空間のランク d の変化に伴い、固定効果の推定値および推論はどの程度変化するか？
• RQ4 多段階または繰返し測定を含む複雑な研究設計に、この手法を高次元応答に対して適用可能か？
• RQ5 真の次元が不明な場合に、実務的に最適なランク d を選択するための有効な戦略は何か？

主な発見

• glmmTMBにおける低ランクアプローチにより、数百、あるいは数千の次元を持つ多変量分散効果の推定が可能となり、lme4 や glmmTMB においてランク削減なしでは以前は不可能だった。
• 9種の魚の豊度データセットにおいて、非構造的モデルは収束に失敗したが、d=2 の低ランクモデルは種間の相関を正常に推定できた。
• 15の結果変数を含むPIRLS教育調査において、低ランクモデルは安定した推定と頑健な固定効果の推論を提供し、d のわずかな変化に対しても結果は感度が低かった。
• 設計上、特異な分散共分散行列を許容するため、q が大きい場合に一般的な正定値推定における収束警告を回避できる。
• 情報量基準と視覚的検査（例：バイプロット）は、最適なランク d を選択する有効なツールであった。解釈上の顕著な変化は主に低ランク（例：d < 2）で観察された。
• このアプローチは、glmmTMBの既存インターフェースと互換性を保ち、多段階、繰返し測定、および従来の専用GLVMパッケージでは対応できなかった複雑な標本設計への応用を可能にした。

Figure 2: Conditional estimates (95% confidence interval) of the Zone by Year interaction terms for species from the diagonal random effect. The contrast between a zone (North, or South), and the Wind Farm zone in 2010 is shown.