[논문 리뷰] Active Structure Learning of Bayesian Networks in an Observational Setting

Noa Ben-David, Sivan Sabato|arXiv (Cornell University)|2021. 03. 25.

Machine Learning and Algorithms인용 수 5

한 줄 요약

이 논문은 관측 제약 조건 하에서 베이지안 네트워크 구조 학습을 위한 액티브 러닝 알고리즘인 ActiveBNSL을 제안한다. 여기서 각 샘플당 관측 가능한 변수 수가 제한되어 있다. 전략적으로 각 샘플에서 관측할 변수를 선택하고 마르코프 동치 클래스를 고려함으로써, 안정적인 분포에 대해 샘플 복잡도를 최대 \widetilde{\Omega}(d^3)만큼 감소시킬 수 있으며, 최악의 경우에도 낮은 성능 저하를 보인다.

ABSTRACT

We study active structure learning of Bayesian networks in an observational setting, in which there are external limitations on the number of variable values that can be observed from the same sample. Random samples are drawn from the joint distribution of the network variables, and the algorithm iteratively selects which variables to observe in the next sample. We propose a new active learning algorithm for this setting, that finds with a high probability a structure with a score that is $\\epsilon$-close to the optimal score. We show that for a class of distributions that we term stable, a sample complexity reduction of up to a factor of $\\widetilde{\\Omega}(d^3)$ can be obtained, where $d$ is the number of network variables. We further show that in the worst case, the sample complexity of the active algorithm is guaranteed to be almost the same as that of a naive baseline algorithm. To supplement the theoretical results, we report experiments that compare the performance of the new active algorithm to the naive baseline and demonstrate the sample complexity improvements. Code for the algorithm and for the experiments is provided at https://github.com/noabdavid/activeBNSL.

연구 동기 및 목표

• 의료, 센서, 신경과학 응용 분야에서 흔히 발생하는 제약 조건인 각 샘플당 관측 가능한 변수 수가 제한된 상황에서 베이지안 네트워크 구조 학습 문제를 해결한다.
• 균일하게 변수 서브셋을 샘플링하는 낙관적 기반 접근 방식에 비해 샘플 복잡도를 줄이는 액티브 러닝 알고리즘을 개발한다.
• 샘플 복잡도 향상이 이론적으로 가능하다는 점을 입증하기 위해 '안정적'이라고 불리는 분포의 클래스를 규명한다.
• 최악의 경우에도 액티브 알고리즘의 샘플 복잡도가 낙관적 기반 대비 거의 동일한 성능을 보장함으로써 강건성을 확보한다.
• 합성 네트워크와 벤치마크 네트워크에서의 실험을 통해 실용적 타당성을 입증한다.

제안 방법

• 각 샘플에서 정보 수확량을 극대화하기 위해 관측할 변수를 반복적으로 선택하는 액티브 러닝 알고리즘인 ActiveBNSL을 제안한다.
• 각 DAG에 대해 기저 분포에 기반한 점수를 할당하는 점수 기반 프레임워크를 사용하며, 최적의 점수에 \epsilon-근접한 점수를 갖는 구조를 찾는 것을 목표로 한다.
• 마르코프 동치 클래스를 학습 과정에 직접 통합하여 동치 구조의 중복 탐색을 방지한다.
• 집중도 한계와 균일 수렴 보장을 활용하여 학습된 구조의 고확률 근접 최적성 보장을 확보한다.
• 기존의 구조 탐색 절차를 블랙박스로 통합하여 표준 베이지안 네트워크 학습 소프트웨어를 활용한 실용적 구현을 가능하게 한다.
• 샘플 복잡도 감소가 이론적으로 가능하다는 점을 입증하기 위해 '안정적 분포'라고 불리는 분포의 클래스를 정의하고 분석한다.

실험 결과

연구 질문

• RQ1 관측 제약 조건 하에서 액티브 변수 선택이 베이지안 네트워크 구조 학습의 샘플 복잡도를 감소시킬 수 있는가?
• RQ2 액티브 러닝이 낙관적 샘플링에 비해 유의미한 샘플 복잡도 이점을 제공하는 분포의 클래스는 무엇인가?
• RQ3 최악의 경우에서 액티브 알고리즘의 성능은 낙관적 기반 대비 얼마나 저하되는가?
• RQ4 기본 분포의 구조적 특성을 얼마나 잘 활용하여 필요한 샘플 수를 줄일 수 있는가?
• RQ5 이 액티브 러닝 접근 방식은 합성 및 실세계 네트워크에서 실용적으로 구현되고 경험적으로 검증될 수 있는가?

주요 결과

• 안정적인 분포에 대해 ActiveBNSL은 샘플 복잡도를 최대 \widetilde{\Omega}(d^3)만큼 감소시킨다. 여기서 d는 네트워크 변수의 수이다.
• r=2^{19}인 합성 네트워크에서 ActiveBNSL는 낙관적 알고리즘이 요구하는 샘플의 15%만으로도 충분했다.
• r=2^{19}인 벤치마크 네트워크에서 ActiveBNSL는 낙관적 기반 대비 샘플의 6%만으로도 충분하여 뚜렷한 실증적 성과를 보였다.
• 샘플 복잡도 향상은 변수 수 d와 정밀도 파라미터 r(작은 \epsilon)가 증가할수록 증가하며, 이는 더 높은 정밀도 요구 사항에서 더 강한 성과 향상을 의미한다.
• r가 작을 경우(예: r=2^{13}), ActiveBNSL와 낙관적 알고리즘이 유사한 샘플 크기를 요구하여 이러한 영역에서는 유의미한 이점이 없음을 보였다.
• 유리한 설정에서 알고리즘이 조기에 더 많은 가족을 수락하는 경향이 있었으며, 이는 더 큰 샘플 크기 감소와 관련이 있었다.