[논문 리뷰] Calibrating Agent-based Models to Microdata with Graph Neural Networks

Joel Dyer, Patrick Cannon외 2명|arXiv (Cornell University)|2022. 06. 15.

Time Series Analysis and Forecasting인용 수 6

한 줄 요약

이 논문은 시뮬레이션 기반 추론 내에서 순환 그래프 신경망(GNN)을 사용하여 고차원적이고 완전히 관측된 미세단위 데이터에서 직접 에이전트 기반 모델(ABM)을 校정하는 방법을 제안한다. 이 데이터는 시간에 따라 변화하는 에이전트 상태와 상호작용을 포함한다. 요약 통계치 없이도 ABM의 매개변수에 대한 정확한 사후 분포 추정이 가능하며, 의견 동적 모델의 히프리드 모델에서 진짜 값 주변에 높은 사후 밀도가 관찰됨을 통해 이를 입증하였다.

ABSTRACT

Calibrating agent-based models (ABMs) to data is among the most fundamental requirements to ensure the model fulfils its desired purpose. In recent years, simulation-based inference methods have emerged as powerful tools for performing this task when the model likelihood function is intractable, as is often the case for ABMs. In some real-world use cases of ABMs, both the observed data and the ABM output consist of the agents' states and their interactions over time. In such cases, there is a tension between the desire to make full use of the rich information content of such granular data on the one hand, and the need to reduce the dimensionality of the data to prevent difficulties associated with high-dimensional learning tasks on the other. A possible resolution is to construct lower-dimensional time-series through the use of summary statistics describing the macrostate of the system at each time point. However, a poor choice of summary statistics can result in an unacceptable loss of information from the original dataset, dramatically reducing the quality of the resulting calibration. In this work, we instead propose to learn parameter posteriors associated with granular microdata directly using temporal graph neural networks. We will demonstrate that such an approach offers highly compelling inductive biases for Bayesian inference using the raw ABM microstates as output.

연구 동기 및 목표

• 모든 에이전트 상태와 상호작용이 관측되는 완전히 관측된 ABM 미세단위 데이터를 효과적으로 활용할 수 있는 시뮬레이션 기반 추론(SBI) 방법의 부족을 해결하기 위해.
• 시간적 GNN의 인도크티브 바이어스를 통해 ABM의 자연스러운 동적 그래프 구조를 SBI 절차에 통합하기 위해.
• 원시적이고 고해상도의 미세단위 데이터를 직접 사용하여 ABM 매개변수를 校정함으로써 전체 정보 내용을 유지하고 차원 축소로 인한 정보 손실을 방지하기 위해.
• GNN 기반 신경 SBI가 복잡한 공진화 시스템에서도 ABM 매개변수에 대한 정확한 사후 분포를 생성할 수 있음을 입증하기 위해.

제안 방법

• 이 방법은 시간에 따라 변화하는 ABM의 미세상태를 임베딩하기 위해 순환 그래프 신경망(GNN)을 사용하며, 각 시점에서 에이전트 상태와 상호작용 네트워크를 모두 캡처한다.
• GNN은 에이전트와 그 관계의 동적 그래프 구조를 처리하여 전체 미세상태 시퀀스의 저차원이고 정보적인 표현을 학습한다.
• 이 GNN 임베딩 표현은 정규화 플로(특히 마스크된 순차적 자기회귀 플로)에 입력으로 사용되어 ABM 매개변수에 대한 사후 분포를 모델링한다.
• 이 방법은 명시적 우도 계산이 필요 없는 신경 SBI 프레임워크 내에서 작동하며, 시뮬레이션 데이터를 사용해 사후 추정기 모델을 훈련한다.
• 아키텍처는 매개변수 θ = (ρ, ε, λ, p)에 대한 사후 분포를 근사하기 위해 1,000회의 시뮬레이션 예산을 사용해 엔드 투 엔드로 훈련된다.
• GNN은 ABM의 시간적 및 관계적 구조를 존중함으로써 강력한 인도크티브 바이어스를 제공하여 일반화 성능과 추론 정확도를 향상시킨다.

실험 결과

연구 질문

• RQ1 시간적 그래프 신경망은 시뮬레이션 기반 추론에 사용하기 위해 고차원적 ABM 미세단위 데이터의 정보적인 표현을 효과적으로 학습할 수 있는가?
• RQ2 요약 통계치 없이 원시적인 미세단위 데이터를 사용할 경우, 전통적인 SBI 방법에 비해 ABM의 매개변수 사후 분포 추정이 더 정확한가?
• RQ3 GNN 기반 SBI 방법은 에이전트 수준의 상태와 상호작용의 전체 정보 내용을 유지하면서도 계산 가능성을 유지할 수 있는가?
• RQ4 제안된 방법은 공진화하는 의견과 네트워크 동적 모델에서 진짜 매개변수를 얼마나 잘 복원하는가?

주요 결과

• 제안된 방법은 진짜 매개변수 값이 높은 사후 밀도를 가지는 근사 사후 분포를 성공적으로 학습하여 정확한 추론을 가능하게 했다.
• 마스크된 순차적 자기회귀 플로와 GNN 인코더를 통해 복원된 주변 및 결합 사후 분포는 진짜 매개변수(ρ=1, ε=0.8, λ=0.5, p=0.5) 주변에 강하게 집중되어 있었다.
• GNN를 통한 미세단위 데이터의 직접적 사용은 수작업 요약 통계치 선택에 내재된 정보 손실을 피할 수 있음을 입증했다.
• 순환 GNN의 사용은 기존의 원시 미세단위 데이터 기반 SBI 접근법에 비해 사후 분포 추정 정확도를 향상시키는 효과적인 인도크티브 바이어스를 제공했다.
• 단지 1,000회의 시뮬레이션으로도 신뢰할 수 있는 校정 성능를 달성하여 실세계 응용에 있어 계산 효율성을 보였다.