[논문 리뷰] Causal Bayesian Optimization

Virginia Aglietti, Xiaoyu Lu외 2명|arXiv (Cornell University)|2020. 05. 24.

Machine Learning in Materials Science참고 문헌 2인용 수 6

한 줄 요약

이 논문은 복잡한 시스템에서 최적의 간섭을 효율적으로 식별하기 위해 구조적 인과 모델의 do-계산법을 베이지안 최적화와 통합한 인과 베이지안 최적화(Causal Bayesian Optimization, CBO)를 소개한다. do-계산법을 통해 유도된 간섭 분포를 활용함으로써 CBO는 다양한 비용 구조와 인과적 의존성 하에서도 표준 베이지안 최적화보다 수렴 속도와 간섭 품질에서 뛰어나다.

ABSTRACT

This paper studies the problem of globally optimizing a variable of interest that is part of a causal model in which a sequence of interventions can be performed. This problem arises in biology, operational research, communications and, more generally, in all fields where the goal is to optimize an output metric of a system of interconnected nodes. Our approach combines ideas from causal inference, uncertainty quantification and sequential decision making. In particular, it generalizes Bayesian optimization, which treats the input variables of the objective function as independent, to scenarios where causal information is available. We show how knowing the causal graph significantly improves the ability to reason about optimal decision making strategies decreasing the optimization cost while avoiding suboptimal solutions. We propose a new algorithm called Causal Bayesian Optimization (CBO). CBO automatically balances two trade-offs: the classical exploration-exploitation and the new observation-intervention, which emerges when combining real interventional data with the estimated intervention effects computed via do-calculus. We demonstrate the practical benefits of this method in a synthetic setting and in two real-world applications.

연구 동기 및 목표

• 복잡한 인과적 의존성이 있는 시스템에서 최적의 간섭을 효율적으로 식별하는 데 도전하는 것.
• do-계산법을 베이지안 최적화에 통합하여 간섭의 영향을 정확히 모델링하는 것.
• 인과적 구조를 획득 함수에 통합하여 최적화 효율을 향상시키는 것.
• 고정, 변동, 비선형 간섭 비용을 포함한 다양한 비용 구성에서 성능을 평가하는 것.
• 합성 및 실세계 사례에서 표준 베이지안 최적화보다 인과적 인지가 있는 최적화가 우수함을 입증하는 것.

제안 방법

• 임의의 간섭 집합에 대해 p(y|do(do(X)=x))를 계산하기 위해 구조적 인과 모델(SCM)에서 do-계산법을 사용해 간섭 분포를 유도한다.
• do-계산법의 조건부 독립 가정을 적용하여 간섭 분포를 단순화한다. 예를 들어 G_B̄C̄에서 Y ⊥⊥ C | B 와 같은 관계.
• 결과 함수 f(x) = E[Y|do(X=x)]를 모델링하기 위해 인과적 구조를 통합한 가우시안 프로세스 모델(GP+)을 사용한다.
• do-간섭를 고려한 인과적 GP 사전분포를 사용하여 간섭 결과에 대한 정확한 사후 추론을 가능하게 한다.
• 비용 함수를 획득 함수에 통합하여 고정, 상이, 또는 변동 비용 하에서도 최적화를 수행할 수 있도록 한다.
• 알려진 인과 그래프와 구조적 방정식 모델(SEM)을 가진 합성, 의료, 생태학적 데이터셋에 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 do-계산법이 베이지안 최적화에 효과적으로 통합되어 간섭 탐색 효율이 향상되는가?
• RQ2 다양한 비용 구조 하에서 CBO는 표준 베이지안 최적화보다 어떻게 성능을 내는가?
• RQ3 GP 사전분포에 인과적 구조를 모델링하면 수렴 속도 향상과 더 나은 간섭 품질을 달성하는가?
• RQ4 비선형 및 비대칭 비용이 포함된 변동 비용에 대해 CBO는 얼마나 내성적인가?
• RQ5 인과적 구조는 결과 예측 정확도와 최적 간섭 식별에 어떤 영향을 미치는가?

주요 결과

• 모든 합성 실험 설정에서 CBO는 표준 BO보다 인과적 GP 모델(GP+)을 사용할 경우 수렴 속도가 유의미하게 빠르게 된다.
• 합성 실험에서 CBO는 고정 비용이 동일하거나 상이한 경우 100회 이내에 최적의 Y*를 도달하며, 표준 BO를 능가한다.
• 변동 비용(Co(X,x) = c + |x|) 하에서도 CBO는 GP+를 사용해 뛰어난 성능을 유지하며, 비선형 비용 함수에 대한 내성성을 입증한다.
• 인과적 GP 모델은 구조적 의존성을 통합함으로써 결과 예측의 불확실성을 감소시켜 더 정확한 간섭 권고를 가능하게 한다.
• 의료 사례에서는 CBO가 PSA 수치를 최대화하면서 인과 제약 조건을 준수하는 최적의 스타틴 및 아스피린 간섭을 식별한다.
• 생태학적 사례에서는 CBO가 네트워크 생태계 칼슘화합물 생성(nec)을 최대화하기 위한 최적의 환경 간섭을 효율적으로 식별하여 실세계 시스템에 대한 확장성도 검증한다.