[논문 리뷰] Dynamic Causal Bayesian Optimization

Virginia Aglietti, Neil Dhir외 2명|arXiv (Cornell University)|2021. 10. 26.

Bayesian Modeling and Causal Inference참고 문헌 49인용 수 6

한 줄 요약

이 논문은 시계열 변화하는 인과 시스템에서의 간섭 최적화를 위해 인과 추론, 가우시안 프로세스 모델링, 동적 베이지안 네트워크를 통합한 프레임워크인 동적 인과 베이지안 최적화(d cbo)를 소개한다. 인과 그래프 구조를 통해 시간 단계 간 간섭 지식을 전이함으로써, 비정상적인 환경에서 CBO, ABO 또는 BO보다 더 빠르고 저비용으로 최적의 간섭을 식별한다.

ABSTRACT

This paper studies the problem of performing a sequence of optimal interventions in a causal dynamical system where both the target variable of interest and the inputs evolve over time. This problem arises in a variety of domains e.g. system biology and operational research. Dynamic Causal Bayesian Optimization (DCBO) brings together ideas from sequential decision making, causal inference and Gaussian process (GP) emulation. DCBO is useful in scenarios where all causal effects in a graph are changing over time. At every time step DCBO identifies a local optimal intervention by integrating both observational and past interventional data collected from the system. We give theoretical results detailing how one can transfer interventional information across time steps and define a dynamic causal GP model which can be used to quantify uncertainty and find optimal interventions in practice. We demonstrate how DCBO identifies optimal interventions faster than competing approaches in multiple settings and applications.

연구 동기 및 목표

• 인과 효과가 시간에 따라 변화하는 시스템에서 순차적 최적 간섭을 해결하는 데 초점한다.
• 기존 방법인 인과 베이지안 최적화(CBO), 적응형 베이지안 최적화(ABO), 표준 베이지안 최적화(BO)의 한계를 극복한다. 이러한 방법들은 시간에 따른 변화나 인과적 의존성을 모델링하지 못한다.
• 인과 그래프 구조에 기반해 시간 단계 간 간섭 지식을 전이하는 프레임워크를 개발하여 탐색 비용을 줄이고 수렴 속도를 높인다.
• 경제 모델나 생물학적 경로와 같은 비정상적인 目표 함수를 가진 시스템에서 효율적이고 저비용 간섭 선택을 가능하게 한다.
• 명시적인 상태 모델링 없이도 인과적 및 시간적 동적 변화에 대응하는 확률적이고 불확실성 인식 기반의 의사결정 방법을 제공한다.

제안 방법

• 시간에 따라 변화하는 인과 관계를 명시적으로 모델링하는 새로운 최적화 문제 클래스인 동적 인과 글로벌 최적화(DCGO)를 제안한다.
• 관측 데이터와 시간 단계 간의 간섭 데이터를 통합하는 동적 인과 가우시안 프로세스(DC-GP) 모델을 구축한다.
• 시스템 상태와 간섭의 시간적 의존성을 모델링하기 위해 동적 베이지안 네트워크(DBN)를 활용한다.
• 인과 그래프 구조를 활용해 시간 간의 간섭 정보 전이를 위한 이론적 조건을 도출하여 중복 탐색을 줄인다.
• 각 시간 단계에서 관측 데이터와 이전 간섭 데이터를 융합한 서면 모델을 다양한 간섭 집합에 대해 구축하고, 간섭 효과에 대한 믿음을 갱신한다.
• 1단계 앞선 성능을 최대화하는 민첩한 획득 함수를 적용하여, 목표 변수를 최소화하면서 간섭 비용을 고려한 간섭을 선택한다.

실험 결과

연구 질문

• RQ1 시간에 따라 변화하는 효과를 가지는 인과 동적 시스템에서 간섭 지식을 효과적으로 시간 단계 간 전이할 수 있는가?
• RQ2 인과 그래프 구조에 어떤 이론적 조건이 간섭 정보의 시간적 안정성 있는 전이를 가능하게 하는가?
• RQ3 시간적 동적 변화와 인과적 구조를 통합함으로써, 정적 또는 비인과적 접근에 비해 최적화 성능이 어떻게 향상되는가?
• RQ4 비정상적인 설정에서 CBO, ABO 및 BO에 비해 dcbo는 간섭 횟수와 간섭 비용을 어떻게 줄이는가?
• RQ5 시간 인식 인과 베이지안 최적화 프레임워크는 경제 모델나 생물학적 모델과 같은 실제 동적 시스템에서 최첨단 방법을 능가할 수 있는가?

주요 결과

• dcbo는 다양한 합성 및 실제 설정에서 CBO, ABO 및 BO보다 최적의 간섭을 더 빠르게 식별한다. 이는 시간 간의 간섭 지식 전이가 효과적이기 때문이다.
• 이론적 결과에 따르면, 목표 변수의 부모가 안정적이거나 예측 가능하게 변화하는 경우, 인과 그래프 구조에 기반해 간섭 정보를 시간 간 전이할 수 있다.
• 동적 인과 GP를 통해 인과적 구조와 시간적 동적 변화를 동시에 모델링함으로써, 특히 비정상적인 환경에서 불확실성과 탐색 비용을 감소시킨다.
• 목표 함수에 급격한 변화가 있는 설정에서 dcbo는 ABO를 능가한다. ABO는 시간적 변화가 느리다고 가정하여 급격한 변화에 취약하기 때문이다.
• 진짜 간섭 함수가 시간 단계 간에 변화하더라도, 인과 그래프 구조가 일정할 경우 성능을 유지한다.
• 목표에 영향을 주는 입력 변수의 일부만 존재하는 상황에서, dcbo는 가장 효과적인 변수들에만 간섭을 시행하여 ABO가 사용하는 고비용 전면 간섭 전략을 피한다.