[논문 리뷰] Fast Scalable and Accurate Discovery of DAGs Using the Best Order Score Search and Grow-Shrink Trees

Bryan Andrews, Joseph Ramsey외 3명|PubMed|2023. 10. 26.

Rough Sets and Fuzzy Logic인용 수 7

한 줄 요약

이 논문은 고차원 데이터에서 방향성 비순환 그래프(DAGs)를 학습하는 데 있어 확장성과 정확도를 동시에 확보한 Best Order Score Search(BOSS)와 Grow-Shrink Trees(GSTs)를 소개한다. BOSS는 GSTs에서 캐시된 점수를 활용한 탐욕적 순열 탐색을 통해 기존의 조합적 및 기울기 기반 방법들보다도 뛰어난 정확도와 속도를 달성하며, 밀도가 높고 최대 1,000개의 변수를 포함한 시뮬레이션 데이터와 fMRI 데이터에서 최신 기술 수준을 넘어서는 성능을 보였다.

ABSTRACT

Learning graphical conditional independence structures is an important machine learning problem and a cornerstone of causal discovery. However, the accuracy and execution time of learning algorithms generally struggle to scale to problems with hundreds of highly connected variables-for instance, recovering brain networks from fMRI data. We introduce the best order score search (BOSS) and grow-shrink trees (GSTs) for learning directed acyclic graphs (DAGs) in this paradigm. BOSS greedily searches over permutations of variables, using GSTs to construct and score DAGs from permutations. GSTs efficiently cache scores to eliminate redundant calculations. BOSS achieves state-of-the-art performance in accuracy and execution time, comparing favorably to a variety of combinatorial and gradient-based learning algorithms under a broad range of conditions. To demonstrate its practicality, we apply BOSS to two sets of resting-state fMRI data: simulated data with pseudo-empirical noise distributions derived from randomized empirical fMRI cortical signals and clinical data from 3T fMRI scans processed into cortical parcels. BOSS is available for use within the TETRAD project which includes Python and R wrappers.

연구 동기 및 목표

• fMRI 뇌 네트워크와 같은 고차원이고 밀도가 높은 데이터에서 기존 DAG 구조 학습 알고리즘의 확장성과 정확도 한계를 해결하기 위해.
• 순열 기반 DAG 학습의 계산 비용을 줄이기 위해 중간 점수 계산을 캐시하는 새로운 캐싱 메커니즘인 Grow-Shrink Trees(GSTs)를 개발하기 위해.
• GRaSP와 같은 이전 방법들보다 조정 파rameter가 적고 런타임이 향상된 상태에서 최신 기술 수준의 성능을 달성하는 새로운 알고리즘인 Best Order Score Search(BOSS)를 설계하기 위해.
• 3T 스캔에서 확보한 실제 임상 fMRI 데이터와 의사 경험적 노이즈가 포함된 시뮬레이션 데이터를 대상으로 BOSS의 실용적 유용성을 검증하기 위해.
• TETRAD 프로젝트 내에서 Python과 R 지원을 제공하는 오픈소스 구현을 제공하여 광범위한 도입을 촉진하기 위해.

제안 방법

• BOSS는 변수 순열을 탐색하는 탐욕적 알고리즘으로, 최고의 점수를 가진 DAG를 찾기 위해 Best Order Score 기준을 활용한다.
• Grow-Shrink Trees(GSTs)는 순열 처리 중에 중간 점수 계산을 캐시하는 새로운 데이터 구조로, 순열 기반 학습에서의 중복 계산을 극적으로 줄인다.
• GSTs는 순열을 트리 구조로 정렬하여 점진적 업데이트와 열악한 분지의 잘라내기를 지원함으로써 효율적인 점수 재사용을 가능하게 한다.
• 각 순열에서 유도된 DAG를 평가하기 위해 BICλ와 ∆BIC 점수를 사용하며, BICλ는 희박성에 유리하고 ∆BIC는 상대적 모델 적합도를 측정한다.
• BOSS는 GSTs를 통합하여 후보 DAG의 점수 계산 속도를 높이며, 1,000개의 변수와 평균 차수 20에서도 탐색 공간을 확장 가능하게 한다.
• 이 방법은 渐近적으로 정확하며 점수 기반 및 제약 기반 모델 선택을 모두 지원하며, TETRAD에 구현되어 있다.

실험 결과

연구 질문

• RQ1 1,000개의 변수를 포함한 조밀한 고차원 그래프에서 순열 기반 DAG 학습 방법이 높은 정확도와 확장성을 동시에 달성할 수 있는가?
• RQ2 Grow-Shrink Trees와 같은 새로운 캐싱 메커니즘이 정확도를 희생시키지 않고 순열 기반 DAG 학습의 계산 비용을 크게 줄일 수 있는가?
• RQ3 GRaSP, fGES, DAGMA, LiNGAM 등의 최신 기술 수준의 조합적 및 기울기 기반 방법들과 비교할 때, BOSS는 시뮬레이션 및 실제 fMRI 데이터에서 정확도, 런타임, 모델 적합도 측면에서 어떻게 성능을 내는가?
• RQ4 실제 복잡한 의사 경험적 노이즈 분포를 가진 fMRI 데이터에서 BOSS는 강력한 성능을 유지하는가? 이 노이즈는 실제 피각 신호에서 유도된다.
• RQ5 379개의 피각 파라셀로 처리된 실제 임상 fMRI 데이터에 대해 BOSS는 신뢰할 수 있고 해석 가능한 뇌 네트워크 탐색을 효율적으로 수행할 수 있는가?

주요 결과

• 시뮬레이션된 fMRI 데이터에서 BOSS는 평균 인접 정밀도 0.99(0.005)와 재현율 0.94(0.009)를 기록했으며, DAGMA, fGES, LiNGAM보다 두 지표에서 모두 뛰어난 성능을 보였다.
• 1,000개의 변수와 평균 차수 20를 가진 고차원 시뮬레이션 데이터에서 BOSS는 599.24초(±43.804)의 시간에 완료되었고, ∆BIC는 29,520.77(±1,101.301)를 기록하여 런타임에서는 GRaSP를 압도적으로 앞섰으며 정확도는 유사하게 유지했다.
• 171개의 스캔에서 확보한 임상 fMRI 데이터에서 BOSS는 BIC 98,752.23(±25,139.907)와 총 2,644.61개의 간선(±430.419)을 기록했으며, fGES보다 모델 적합도와 간선 수 정확도에서 뛰어난 성능을 보였다.
• 500개의 변수를 가진 데이터셋에서 BOSS는 GRaSP 대비 런타임을 50% 이상 단축시켰으며, 동일한 설정에서 1,012.22초(±60.835)에 완료된 데 반해 GRaSP는 2,331.55초(±249.112)가 소요되었다.
• GSTs의 사용으로 중복된 점수 계산이 줄어들어, BOSS는 평균 차수 20인 1,000개의 변수에까지 확장 가능했으며, 이는 이전 방법들이 계산적으로 비가능한 영역에서 실패하는 상황에서의 성능 향상을 의미한다.
• BOSS는 시뮬레이션 및 실제 fMRI 데이터 모두에서 최신 기술 수준의 정확도와 속도를 달성했으며, 특히 밀도가 높고 고차원적인 환경에서 뛰어난 성능을 보였다.