[論文レビュー] cgam: An R Package for the Constrained Generalized Additive Model

Xiyue Liao, Mary C. Meyer|arXiv (Cornell University)|Dec 18, 2018

Advanced Statistical Methods and Models参考文献 7被引用数 9

ひとこと要約

この論文は、滑らかさ成分における単調性、凸性、順序制約を強制するために錐射影を用いる制約付き一般化加法モデルを適合する R パッケージ cgam を紹介する。反復的重み付け錐射影を用いた効率的なモデル推定により、scam や他の手法に比べ高速な計算を実現し、加法性の仮定なしに複雑な形状制約付き表面の正確な適合が可能である。

ABSTRACT

The cgam package contains routines to fit the generalized additive model where the components may be modeled with shape and smoothness assumptions. The main routine is cgam and nineteen symbolic routines are provided to indicate the relationship between the response and each predictor, which satisfies constraints such as monotonicity, convexity, their combinations, tree, and umbrella orderings. The user may specify constrained splines to fit the components for continuous predictors, and various types of orderings for the ordinal predictors. In addition, the user may specify parametrically modeled covariates. The set over which the likelihood is maximized is a polyhedral convex cone, and a least-squares solution is obtained by projecting the data vector onto the cone. For generalized models, the fit is obtained through iteratively re-weighted cone projections. The cone information criterion is provided and may be used to compare fits for combinations of variables and shapes. In addition, the routine wps implements monotone regression in two dimensions using warped-plane splines, without an additivity assumption. The graphical routine plotpersp will plot an estimated mean surface for a selected pair of predictors, given an object of either cgam or wps. This package is now available from the Comprehensive R Archive Network at http://CRAN.R-project.org/package=cgam.

研究の動機と目的

• 単調性、凸性、順序など形状制約を伴う一般化加法モデルを、計算的に効率的に適合できる R パッケージの開発。
• scam や mgcv などの既存パッケージの限界を克服し、ペナルティスプラインやバックフィットティングに依存せずに、高速な制約付きスムージングを可能にする。
• mgcv の gam 関数を模倣した統一インターフェースを提供し、s.incr(x) のような直感的な構文で形状制約付きスムーズを指定可能にする。
• 連続的および順序的予測子をサポートし、木構造やアンブレラ順序など多様な制約タイプを扱える。
• 錐情報基準（CIC）を用いたモデル比較ツールと、歪み平面スプライン（wps）による2変量効果の可視化を提供する。

提案手法

• 形状制約は、単調性には二次 I スプライン、凸性には三次 C スプラインを用い、係数の非負値制約によって強制される。
• 主な適合ルーチンである cgam は、形状制約によって定義される多面体凸錐上への応答ベクトルの射影を実行し、アクティブセット法を用いて最小二乗問題を解く。
• 一般化線形モデルでは、同一の制約下で尤度を最大化するため、反復的重み付け錐射影が用いられる。
• wps 関数は、加法性を仮定せず、2次元の単調な表面を歪み平面スプラインで適合可能にし、非加法的形状制約付き回帰を実現する。
• モデル比較には錐情報基準（CIC）が用いられ、異なる変数の組み合わせや形状制約を備えたモデルを比較可能である。
• plotpersp のようなグラフィカル関数は、特定の予測子ペアの推定平均表面を可視化し、モデルの解釈を支援する。

実験結果

リサーチクエスチョン

• RQ1 R において形状制約付き加法モデルを、計算速度と統計的精度を維持した上で、どのように効率的に推定できるか？
• RQ2 バックフィットティングやペナルティスプライン法と比較して、錐射影法は単調性や凸性を持つスムーズ成分の適合において優れているか？
• RQ3 非加法的設定において、制約付きモデルは非制約付きモデルと比較して、実世界のデータにどの程度うまく適合するか？
• RQ4 複雑な予測子-応答関係が存在する状況において、形状制約はモデルの適合度と解釈可能性をどの程度向上させるか？
• RQ5 本パッケージは、木構造やアンブレラ順序など多様な順序制約を伴う連続的および順序的予測子を適切に処理できるか？

主な発見

• シミュレーションスタディにおいて、cgam は scam パッケージに比べて著しく高速である：n=100 時に 17 秒 vs. 611 秒、n=500 時に 58 秒 vs. 842 秒。
• 錐情報基準（CIC）は、異なる形状制約や変数の組み合わせを備えたモデルを効果的に比較でき、モデル選択を支援する。
• wps 関数は、加法性を仮定しない2次元の二重減少表面をうまく適合でき、プラズマデータセットを用いた実験で CIC=5.02 を達成した。
• パッケージは、加法モデルが適切であることを正しく同定した。その CIC（4.97）は非加法モデル（5.02）と同等であり、モデルの単純性を支持する。
• scam の制約が厳しすぎるため、一様に増加しないが二重に単調な表面を適合できないのに対し、cgam パッケージは、そのような表面を効果的に適合できる。
• 基底関数の制約を用いて、単調性と凸性の組み合わせを含む多様な形状制約をサポートし、柔軟で解釈可能なモデリングを可能にする。