[논문 리뷰] Bayesian Networks for Variable Groups

Pekka Parviainen, Samuel Kaski|arXiv (Cornell University)|2015. 08. 31.

Bayesian Modeling and Causal Inference참고 문헌 14인용 수 2

한 줄 요약

이 논문은 사전 정의된 변수 집단 간의 종속성을 모델링하기 위한 베이지안 네트워크 구조를 제안하며, 정확한 표현을 위해서는 집단 간의 충실성 가정이 필요하다고 보여준다. 그들은 집단 간의 인과 관계를 규명하기 위해 집단 간 및 변수 간의 조건부 통독성 조건이 모두 필요하다는 것을 입증하고, 집단 간 종속성 구조를 학습하기 위한 알고리즘을 제시한다.

ABSTRACT

Bayesian networks, and especially their structures, are powerful tools for representing conditional independencies and dependencies between random variables. In applications where related variables form a priori known groups, chosen to represent different “views” to or aspects of the same entities, one may be more interested in modeling dependencies between groups of variables rather than between individual variables. Motivated by this, we study prospects of representing relationships between variable groups using Bayesian network structures. We show that for dependency structures between groups to be expressible exactly, the data have to satisfy the so-called groupwise faithfulness assumption. We also show that one cannot learn causal relations between groups using only groupwise conditional independencies, but also variable-wise relations are needed. Additionally, we present algorithms for finding the groupwise dependency structures.

연구 동기 및 목표

• 개별 변수가 아닌 사전 정의된 변수 집단 간의 종속성을 모델링하기 위해.
• 베이지안 네트워크에서 집단 간 종속성이 정확히 표현될 수 있는 조건을 조사하기 위해.
• 오직 집단 간 조건부 통독성만을 사용하여 집단 간 인과 관계를 학습할 수 있는지 확인하기 위해.
• 데이터로부터 집단 간 종속성 구조를 발견하기 위한 알고리즘을 개발하기 위해.

제안 방법

• 베이지안 네트워크 구조 내에서 변수 집단 간 종속성을 표현하기 위한 공식적 프레임워크를 제안한다.
• 집단 간 종속성의 정확한 표현을 위한 필수 조건으로 집단 간 충실성 가정을 도입한다.
• 집단 간 조건부 통독성만을 사용하여 집단 간 인과 관계를 학습하는 데서 발생하는 한계를 분석한다.
• 집단 간 조건부 통독성 외에도 변수 간 조건부 통독성이 인과적 집단 관계를 학습하기 위해 필요하다는 것을 입증한다.
• 집단 수준에서의 조건부 통독성 검증을 바탕으로 집단 간 종속성 구조를 식별하기 위한 알고리즘을 개발한다.
• 집단 수준의 조건부 통독성 관계에 맞추어 조정된 구조 학습 기법을 적용한다.

실험 결과

연구 질문

• RQ1 어떤 조건에서 베이지안 네트워크 구조에서 집단 간 종속성이 정확히 표현될 수 있는가?
• RQ2 오직 집단 간 조건부 통독성만을 사용하여 집단 간 인과 관계를 학습할 수 있는가?
• RQ3 변수 간 조건부 통독성이 집단 간 인과 구조를 학습하는 데서 수행하는 역할은 무엇인가?
• RQ4 어떻게 데이터로부터 집단 간 종속성 구조를 효율적으로 학습할 수 있는가?
• RQ5 베이지안 네트워크에서 집단 간 모델링의 이론적 한계는 무엇인가?

주요 결과

• 집단 간 충실성 가정은 베이지안 네트워크에서 집단 간 종속성 구조를 정확히 표현하기 위해 필수적이고 충분한 조건이다.
• 집단 간 인과 관계는 오직 집단 간 조건부 통독성만을 사용하여 학습할 수 없으며, 변수 간 관계도 함께 필요하다.
• 집단 수준에서의 조건부 통독성 검증을 수행하는 구조 학습 알고리즘을 통해 집단 간 종속성 구조를 학습할 수 있다.
• 논문은 집단 간 모델의 표현력에 대한 이론적 한계를 설정하며, 충실성 없이선 모든 종속성 패턴을 표현할 수 없음을 보여준다.
• 제안된 알고리즘은 집단 간 충실성 가정 하에서 집단 간 구조를 성공적으로 복원한다.
• 연구는 집단 수준에서 모델링을 하더라도 인과 추론을 위해 개별 변수 간 관계를 고려할 필요가 여전히 있다는 것을 드러낸다.