[论文解读] Calibrating Agent-based Models to Microdata with Graph Neural Networks

Joel Dyer, Patrick Cannon+2 more|arXiv (Cornell University)|Jun 15, 2022

Time Series Analysis and Forecasting被引用 6

一句话总结

该论文提出在基于模拟的推断中使用循环图神经网络（GNNs），直接从高维、完全观测的微观数据（即随时间演变的个体状态与交互）校准基于代理的模型（ABMs），而无需使用摘要统计量。该方法在意见动态的Hopfield模型中展示了对ABM参数后验估计的准确性，表现为后验密度集中在真实参数值附近。

ABSTRACT

Calibrating agent-based models (ABMs) to data is among the most fundamental requirements to ensure the model fulfils its desired purpose. In recent years, simulation-based inference methods have emerged as powerful tools for performing this task when the model likelihood function is intractable, as is often the case for ABMs. In some real-world use cases of ABMs, both the observed data and the ABM output consist of the agents' states and their interactions over time. In such cases, there is a tension between the desire to make full use of the rich information content of such granular data on the one hand, and the need to reduce the dimensionality of the data to prevent difficulties associated with high-dimensional learning tasks on the other. A possible resolution is to construct lower-dimensional time-series through the use of summary statistics describing the macrostate of the system at each time point. However, a poor choice of summary statistics can result in an unacceptable loss of information from the original dataset, dramatically reducing the quality of the resulting calibration. In this work, we instead propose to learn parameter posteriors associated with granular microdata directly using temporal graph neural networks. We will demonstrate that such an approach offers highly compelling inductive biases for Bayesian inference using the raw ABM microstates as output.

研究动机与目标

• 解决现有基于模拟的推断（SBI）方法缺乏对完全观测的ABM微观数据（即所有个体状态与交互均被观测）的有效利用，且不依赖摘要统计量的问题。
• 通过时间GNN提供的归纳偏置，将ABM的自然动态图结构融入SBI流程。
• 实现基于原始高分辨率微观数据的ABM参数直接校准，保留完整的信息内容，避免因降维导致的信息损失。
• 证明基于GNN的神经SBI可在复杂且共变的系统中产生准确的ABM参数后验分布。

提出的方法

• 该方法使用循环图神经网络（GNN）对ABM的时间演化微观状态进行嵌入，捕捉每个时间步的个体状态与交互网络。
• GNN处理代理及其关系的动态图结构，学习全微观状态序列的低维、信息丰富的表示。
• 该GNN嵌入表示被用作输入，通过归一化流（具体为掩码自回归流）建模ABM参数的后验分布。
• 该方法在神经SBI框架内运行，利用模拟数据训练后验估计器，而无需显式计算似然函数。
• 该架构通过1,000次模拟的预算进行端到端训练，以近似参数θ = (ρ, ε, λ, p)的后验分布。
• GNN通过尊重ABM的时间与关系结构，提供了强有力的归纳偏置，从而提升泛化能力与推断准确性。

实验结果

研究问题

• RQ1 时间图神经网络能否有效学习高维ABM微观数据的信息表示，以用于基于模拟的推断？
• RQ2 与传统SBI方法相比，直接使用原始微观数据（无需摘要统计量）是否能带来更准确的ABM参数后验估计？
• RQ3 基于GNN的SBI方法是否能在保持计算可行性的同时，完整保留个体层面状态与交互的全部信息内容？
• RQ4 所提出方法在共变意见与网络动态模型中对真实参数的恢复效果如何？

主要发现

• 所提方法成功学习到一个近似后验分布，其中真实参数值被赋予高后验密度，表明推断准确。
• 通过掩码自回归流与GNN编码器恢复的边缘与联合后验分布，强烈集中在真实参数（ρ=1, ε=0.8, λ=0.5, p=0.5）附近。
• 该方法表明，通过GNN直接使用微观数据可避免人工选择摘要统计量所固有的信息损失。
• 使用循环GNN提供了有效的归纳偏置，相比在原始微观数据上应用标准SBI方法，显著提升了后验估计性能。
• 该方法仅通过1,000次模拟即实现可靠校准，表明其在真实应用中具有计算效率。