[論文レビュー] Calibrating Agent-based Models to Microdata with Graph Neural Networks

Joel Dyer, Patrick Cannon+2 more|arXiv (Cornell University)|Jun 15, 2022

Time Series Analysis and Forecasting被引用数 6

ひとこと要約

本稿では、要約統計を用いず、時間的経過に伴うエージェントの状態と相互作用を完全に観測した高次元のマイクロデータから直接、エージェントベースモデル（ABM）をキャリブレーションするため、再帰的グラフニューラルネットワーク（GNN）をシミュレーションベース推論に組み込む手法を提案する。この手法により、意見動態のホフフィールドモデルにおける真値に近い高い事後密度が得られ、ABMのパラメータの正確な事後分布推定が可能となる。

ABSTRACT

Calibrating agent-based models (ABMs) to data is among the most fundamental requirements to ensure the model fulfils its desired purpose. In recent years, simulation-based inference methods have emerged as powerful tools for performing this task when the model likelihood function is intractable, as is often the case for ABMs. In some real-world use cases of ABMs, both the observed data and the ABM output consist of the agents' states and their interactions over time. In such cases, there is a tension between the desire to make full use of the rich information content of such granular data on the one hand, and the need to reduce the dimensionality of the data to prevent difficulties associated with high-dimensional learning tasks on the other. A possible resolution is to construct lower-dimensional time-series through the use of summary statistics describing the macrostate of the system at each time point. However, a poor choice of summary statistics can result in an unacceptable loss of information from the original dataset, dramatically reducing the quality of the resulting calibration. In this work, we instead propose to learn parameter posteriors associated with granular microdata directly using temporal graph neural networks. We will demonstrate that such an approach offers highly compelling inductive biases for Bayesian inference using the raw ABM microstates as output.

研究の動機と目的

• 完全に観測されたABMのマイクロデータ（すべてのエージェントの状態と相互作用が観測されている）を、要約統計に依存せずに効果的に活用できる、シミュレーションベース推論（SBI）手法の不足を補うこと。
• 時間的GNNによるインダクティブバイアスを活用し、ABMが持つ自然な動的グラフ構造をSBI手順に統合すること。
• 高分解能の生のマイクロデータを用いてABMパラメータを直接キャリブレーションすることにより、完全な情報内容を保持し、次元削減に伴う情報損失を回避すること。
• GNNベースのニューラルSBIが、複雑で共進化するシステムにおいても、ABMパラメータの正確な事後分布を生成できることを実証すること。

提案手法

• 本手法は、時間的に変化するABMのマイクロステートを埋め込むために再帰的グラフニューラルネットワーク（GNN）を用い、各時刻におけるエージェントの状態と相互作用ネットワークを捉える。
• GNNはエージェントとその関係性の動的グラフ構造を処理し、全マイクロステート系列の低次元で情報豊富な表現を学習する。
• このGNNで埋め込まれた表現を、正規化フロー（特にマスク付き自己回帰的フロー）の入力として用い、ABMパラメータ上の事後分布をモデル化する。
• 本手法はニューラルSBIフレームワーク内に位置し、明示的な尤度計算を必要とせず、シミュレーションデータを用いて事後推定器を学習する。
• アーキテクチャは、パラメータθ = (ρ, ε, λ, p)の事後分布を近似するために、1,000回のシミュレーションの予算でエンドツーエンドに訓練される。
• GNNはABMの時間的および関係的構造を尊重する強力なインダクティブバイアスを提供し、一般化性能と推論の正確性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 時間的グラフニューラルネットワークは、シミュレーションベース推論に使用する高次元ABMマイクロデータの情報豊かな表現を効果的に学習できるか？
• RQ2 要約統計を用いず、生のマイクロデータを直接使用することで、従来のSBI手法と比較してABMのパラメータ事後分布推定がより正確になるか？
• RQ3 GNNベースのSBI手法は、エージェントレベルの状態と相互作用の完全な情報内容を保持しながら、計算の実行可能性を維持できるか？
• RQ4 本手法は、共進化する意見とネットワークのダイナミクスモデルにおいて、真値パラメータをどれほど正確に回復できるか？

主な発見

• 提案手法は、真値パラメータが高事後密度に割り当てられる近似事後分布を成功裏に学習した。これは正確な推論を示している。
• マスク付き自己回帰的フローとGNNエンコーダを用いて回復された周辺および同時事後分布は、真のパラメータ（ρ=1, ε=0.8, λ=0.5, p=0.5）の周囲に強く集中していた。
• GNNを介したマイクロデータの直接的使用により、手動による要約統計選択に伴う情報損失が回避された。
• 再帰的GNNの使用により、生のマイクロデータに対する従来のSBIアプローチと比較して、より優れたインダクティブバイアスが得られ、事後分布推定が向上した。
• わずか1,000回のシミュレーションで信頼性の高いキャリブレーションが達成されたため、実世界の応用において計算効率が期待できる。