[論文レビュー] Scalable visualisation methods for modern Generalized Additive Models

Matteo Fasiolo, Raphaël Nedellec+2 more|Bristol Research (University of Bristol)|Sep 27, 2018

Probabilistic and Robust Engineering Design被引用数 26

ひとこと要約

本稿では、加法構造を活用し、最大10^8件の観測値を扱える大規模でインタラクティブな可視化ツールを提案する。一般化線形加法モデル（GAM）の現代的でスケーラブルな可視化を実現した。mgcViz Rパッケージに実装された手法により、迅速かつ不確実性を考慮した残差チェックとスムーズ効果の可視化が可能となり、電力需要予測のような複雑な実世界応用におけるモデル開発と検証が著しく向上した。

ABSTRACT

In the last two decades the growth of computational resources has made it possible to handle Generalized Additive Models (GAMs) that formerly were too costly for serious applications. However, the growth in model complexity has not been matched by improved visualisations for model development and results presentation. Motivated by an industrial application in electricity load forecasting, we identify the areas where the lack of modern visualisation tools for GAMs is particularly severe, and we address the shortcomings of existing methods by proposing a set of visual tools that a) are fast enough for interactive use, b) exploit the additive structure of GAMs, c) scale to large data sets and d) can be used in conjunction with a wide range of response distributions. All the new visual methods proposed in this work are implemented by the mgcViz R package, which can be found on the Comprehensive R Archive Network.

研究の動機と目的

• 大規模産業応用において特に顕著な、複雑なGAMのための現代的でスケーラブルな可視化ツールの不足に対処すること。
• 10^7～10^8件の観測値を扱う大規模データセットに対してもインタラクティブ利用に耐えうるほど高速な可視化手法を開発すること。
• 単純な平均回帰をはるかに超えて、非指数型分布族やGAMLSSモデルを含む多様な応答分布をサポートすること。
• スムーズ効果および残差パターンの不確実性を定量化することで、インタラクティブなモデル構築と検証を促進すること。
• 電力需要予測のような高リスクな予測環境におけるモデルの解釈可能性と実務家による信頼性を向上させること。

提案手法

• Wickham (2013) の原則に従い、大規模データセットをコンactで表示可能な形にビニングおよび要約することで、効率的なレンダリングを実現。
• mgcViz Rパッケージにおいて、レイヤー型でオブジェクト指向の可視化コンponentsを実装し、拡張性とモularityを確保。
• 適合度の評価と分布仮定からの逸脱の検出に、分位数残差とwormプロットを用いる。
• 信頼性領域と透過度を用いたランダム化により、共変数にわたるスムーズ効果の不確実性を可視化。
• 周期的基底を用いたテンソル積スプラインによる2変量スムーズを適用し、1日中の時間と1年中の時間の効果をモデル化。不確実性の定量化を併記。
• Woodら（2016）の高度なGAMフレームワークを活用し、位置、スケール、形状の複数の分布パラメータを同時にモデル化。

実験結果

リサーチクエスチョン

• RQ1 10^7件を超える観測値を扱うデータセットに対して、GAMの可視化ツールをどのようにしてインタラクティブ利用に耐えうるほどスケーラブルかつ効率的にすることができるか？
• RQ2 複雑な非指数型分布族モデルにおいて、スムーズ効果および残差パターンの不確実性を効果的に可視化する方法は何か？
• RQ3 現代的な可視化技術は、高リスクな予測応用におけるインタラクティブなモデル開発と検証をどのように改善するか？
• RQ4 Wormプロットやヒートマップといった残差診断は、複雑な誤差構造を有するGAMにおけるモデル不適合の特定にどのような役割を果たすか？
• RQ5 可視化ツールは、電力需要予測のような産業現場において、実務家によるモデル出力の理解と信頼性を向上させることができるか？

主な発見

• mgcVizパッケージを用いることで、10^8件の観測値を含むGAMのインタラクティブ可視化が数秒未塔で実現され、モデルフィッティングに比べてレンダリング時間が著しく短縮された。
• Wormプロットなどの残差診断により、午前0時から午前2時の間で分散が大きすぎる（over-dispersion）ことが判明し、1日中の時間効果の周期的基底の限界が示された。
• ビン化されたカーネル密度推定により、多峰性を持つ残差パターンが示され、これは未モデル化された曜日効果や欠落した料金情報の影響による可能性が示唆された。
• SHASH分布（δ=1）は、正規分布やスルーディストリビューションよりも良好な適合を示し、AICは1.608×10^6であり、すべての項が有意水準0.01で有意であった。
• 気温（T）および熱的インertia（Ts）のスムーズ効果は、物理的に妥当なパターンを示した：日中の即時の加熱効果と、夜間の遅延した蓄熱ヒーター効果。
• 66%信頼領域を含む3次元rgl可視化では、特に1年中の時間効果に4つの明確なピークが見られ、2変量スムーズの不確実性と有意性が明確に可視化された。