[論文レビュー] Autocorrelated errors in experimental data in the language sciences: Some solutions offered by Generalized Additive Mixed Models

R. Harald Baayen, Jacolien van Rij+2 more|arXiv (Cornell University)|Jan 8, 2016

Bayesian Modeling and Causal Inference参考文献 11被引用数 13

ひとこと要約

本稿では、言語科学実験における自己相関のある誤差を扱うために、自己回帰（ar1）誤差構造と要因スムーズを備えた一般化加法混合モデル（GAMMs）の使用を提案する。非線形の確率的効果をモデル化し、残差における時系列的依存性を明示的に扱うことで、GAMMsは反保守的p値を低減させ、より解釈可能で安定した非線形効果をもたらす。これは、語の命名、ピッチコントゥール、およびEEGデータ解析の事例で示された。

ABSTRACT

A problem that tends to be ignored in the statistical analysis of experimental data in the language sciences is that responses often constitute time series, which raises the problem of autocorrelated errors. If the errors indeed show autocorrelational structure, evaluation of the significance of predictors in the model becomes problematic due to potential anti-conservatism of p-values. This paper illustrates two tools offered by Generalized Additive Mixed Models (GAMMs) (Lin and Zhang, 1999; Wood, 2006, 2011, 2013) for dealing with autocorrelated errors, as implemented in the current version of the fourth author's mgcv package (1.8.9): the possibility to specify an ar(1) error model for Gaussian models, and the possibility of using factor smooths for random-effect factors such as subject and item. These factor smooths are set up to have the same smoothing parameters, and are penalized to yield the non-linear equivalent of random intercepts and random slopes in the classical linear framework. Three case studies illustrate these issues.

研究の動機と目的

• 言語科学分野の実験データにおいて広く見られるが、しばしば無視される自己相関のある誤差という問題に取り組むこと。
• 残差の自己相関が存在する場合、標準的な線形混合モデルが反保守的p値を生じることを示すこと。
• GAMMsが非線形の確率的効果と自己相関のある残差をモデル化するための2つの主要なツール（要因スムーズとar(1)誤差構造）を提供することを示すこと。
• 自己相関の是正が、実際の言語科学データセットにおける非線形効果の推定値の正確性と解釈可能性をどのように向上させるかを説明すること。
• 行動的または神経生理的応答データに時系列的依存性が存在する場合、従来のモデルに比べてGAMMsが優れた代替手段であると提言すること。

提案手法

• 言語科学データにおける予測変数と応答変数の非線形関係をモデル化するための一般化加法混合モデル（GAMMs）の使用。
• 連続的予測変数の滑らかでうねりのある効果およびその相互作用をモデル化するためのスパイラル平滑化スプライン（tprs）とテンソル積スムーズ（tp）の適用。
• 共有平滑化パラメータとペナルティを備えた要因スムーズの実装により、非線形フレームワーク内でのランダム切片とランダム傾きに類似したランダム効果（例：被験者、アイテム）をモデル化。
• mgcvパッケージにおけるrhoパラメータを介したar(1)誤差構造の組み込みにより、残差の自己相関を明示的にモデル化・是正。
• 因子レベル間の対比をモデル化するための差分スムーズの使用。これは線形モデルにおける処理対比に類似している。
• モデル比較と残差診断により、ar(1)および要因スムーズが残差をホワイト化し、モデル適合度を向上させる有効性を評価。

実験結果

リサーチクエスチョン

• RQ1 実験的応答データにおける残差の自己相関が、標準的な線形混合モデルでどの程度反保守的p値を引き起こすか。
• RQ2 応答パターンが時間的になおざりでない場合、GAMMsにおける要因スムーズが被験者およびアイテムの非線形ランダム効果を効果的にモデル化できるか。
• RQ3 GAMMsにar(1)誤差構造を組み込むことで、言語実験の時系列データにおける残差のホワイトニングとモデル妥当性が顕著に向上するか。
• RQ4 自己相関の是正が、反応遅延、ピッチコントゥール、およびEEGアンプリチュードデータにおける非線形効果の関数的形および解釈可能性にどのように影響するか。
• RQ5 GAMMsにar(1)と要因スムーズを組み合わせることで、言語科学データにおける複雑な時系列的依存性を、従来の線形混合モデルに比べてどのようによりよく捉えることができるか。

主な発見

• 語の命名データでは、被験者の要因スムーズが時間的推移における非線形なパフォーマンス傾向を捉え、rho = 0.3 のar(1)が残差のホワイトニングと自己相関の低減に十分であった。
• ピッチコントゥールデータでは、要因スムーズのみでは強い自己相関を除去できず、残差のホワイトニングを達成するには高いar(1)rho（0.85～0.9）を要した。
• EEGデータでは、ar(1)誤差の導入により、当初は複雑で過剰にうねった非線形表面が、特に条件間の差分表面において、より単純で解釈可能な線形効果に変化した。
• ar(1)モデルは、特に相互作用表面の右下隅（ノイズが以前に増幅されていた領域）で過剰なうねりと過適合を低減させた。
• 自己相関の是正により、p値はより保守的となり、効果の関数的形も変化し、補正後には非線形相互作用が明確に線形化された。
• ある事例では、因子スムーズの導入により、元々有意であった時間×固定要因の相互作用が有意でなくなった。これは、元の有意性が非線形ランダム効果がモデルに組み込まれていなかったことに起因していたことを示唆している。