[논문 리뷰] Towards Automated Statistical Physics : Data-driven Modeling of Complex Systems with Deep Learning.

Seungwoong Ha, Hawoong Jeong|arXiv (Cornell University)|2020. 01. 03.

Complex Network Analysis Techniques인용 수 5

한 줄 요약

이 논문은 데이터에서 복잡한 시스템의 은폐된 상호작용을 자동으로 추론하기 위해 그래프 어텐션 네트워크를 사용하는 딥러닝 프레임워크인 AgentNet을 소개한다. AgentNet은 셀룰러 오토마타, 비크제크 모델, 활성 입자 시스템을 성공적으로 모델링하였으며, 어텐션 맵이 진짜 상호작용 강도와 일치하고 현실적인 새 떼의 군집 행동을 예측한다.

ABSTRACT

Rich phenomena from complex systems have long intrigued researchers, and yet modeling system micro-dynamics and inferring the forms of interaction are challenging for conventional data-driven approaches, being generally established by human scientists. In this study, we propose AgentNet, a generalized data-driven framework to analyze and understand the hidden interactions in complex systems. AgentNet utilizes a graph attention network to model the interaction between individual agents and employs various encoders and decoders that can be selectively applied to any desired system. Our model successfully captured three different simulated complex systems, namely cellular automata, the Vicsek model, and active Orenstein--Uhlenbeck particles in which, notably, AgentNet's visualized attention values coincided with the true interaction strength. Demonstration with empirical data from a flock of birds showed that AgentNet prediction could yield the qualitatively same collective phenomena as exhibited by real birds. We expect our framework to open a novel path to investigating complex systems and to provide insight into process-driven modeling.

연구 동기 및 목표

• 사전 정의된 상호작용 규칙에 의존하지 않고 복잡한 시스템을 일반화된 데이터 기반 프레임워크로 모델링하는 것.
• 관측 또는 시뮬레이션 데이터로부터 미시적 에이전트 상호작용을 자동으로 추론하는 것.
• 진정한 역학과 일치하는 추론된 상호작용 강도를 시각화할 수 있도록 하는 것.
• 활성 물질과 생물학적 집단을 포함한 다양한 복잡한 시스템에 적용 가능성을 입증하는 것.
• 형식화된 상호작용 법칙을 수립하는 데 인간 간섭을 줄이는 프로세스 중심의 모델링 접근법을 제공하는 것.

제안 방법

• AgentNet은 시스템 내 개별 에이전트 간의 상호작용을 모델링하기 위해 그래프 어텐션 네트워크(GAT)를 사용한다.
• 다양한 유형의 복잡한 시스템에 적응할 수 있는 모듈러한 인코더와 디코더를 사용한다.
• 에이전트 상태의 표현을 학습하고 어텐션 메커니즘을 통해 상호작용 패턴을 추론한다.
• 추론된 상호작용 강도를 해석하고 검증하기 위해 어텐션 가중치를 시각화한다.
• 모델은 시뮬레이션 및 실측 시스템의 궤적 데이터를 기반으로 엔드 투 엔드로 훈련된다.
• 셀룰러 오토마타, 비크제크 모델, 활성 오르느스타인-울렌벡 입자와 같은 다양한 시스템으로 일반화된다.

실험 결과

연구 질문

• RQ1 딥러닝 모델이 궤적 데이터만으로 복잡한 시스템의 기본 상호작용 규칙을 자동으로 추론할 수 있는가?
• RQ2 모델의 어텐션 가중치가 시뮬레이션된 시스템에서 진짜 상호작용 강도와 의미 있게 대응하는가?
• RQ3 다른 역학적 규칙을 가진 다양한 복잡한 시스템으로 일반화 가능한가?
• RQ4 실제 새 떼의 실측 데이터에서 현실적인 집단 행동을 예측할 수 있는가?
• RQ5 모델이 추론한 역학이 관측된 거시적 현상을 얼마나 잘 재현하는가?

주요 결과

• AgentNet은 셀룰러 오토마타, 비크제크 모델, 활성 오르느스타인-울렌벡 입자와 같은 세 가지의 서로 다른 시뮬레이션 복잡 시스템의 역학을 성공적으로 포착하였다.
• AgentNet에서 시각화된 어텐션 값은 모든 시뮬레이션 시스템에서 진짜 상호작용 강도와 밀도 있게 일치하였다.
• 실제 새 떼의 실측 데이터에 적용했을 때, AgentNet은 실제 관측 결과와 일치하는 집단 행동을 예측하였다.
• 모델은 서로 다른 기초 상호작용 규칙과 역학을 가진 시스템으로의 일반화 능력을 보였다.
• 어텐션 메커니즘이 추론된 상호작용 패턴에 대한 해석 가능한 통찰을 제공하여 모델의 내부 추론을 검증하였다.