[논문 리뷰] Gaussian DAGs on network data.

Hangjian Li, Qing Zhou|arXiv (Cornell University)|2019. 05. 26.

Statistical Methods and Inference참고 문헌 17인용 수 1

한 줄 요약

이 논문은 네트워크 구조를 가진 데이터를 위한 새로운 가우시안 DAG 모델을 제안하며, 정규화된 우도 접근법을 사용해 DAG의 구조와 행 상관행렬을 동시에 추정한다. 서로 다른 개별 개체 간의 의존성을 활용하기 위해 분리된 라소 회귀와 그래픽스 라소를 번갈아 적용함으로써, 탈상관된 네트워크 데이터에 적용했을 때 기존의 DAG 방법보다 성능을 크게 향상시키는 DAG 구조 학습 정확도를 향상시킨다.

ABSTRACT

The traditional directed acyclic graph (DAG) model assumes data are generated independently from the underlying joint distribution defined by the DAG. In many applications, however, individuals are linked via a network and thus the independence assumption does not hold. We propose a novel Gaussian DAG model for network data, where the dependence among individual data points (row covariance) is modeled by an undirected graph. Under this model, we develop a maximum penalized likelihood method to estimate the DAG structure and the row correlation matrix. The algorithm iterates between a decoupled lasso regression step and a graphical lasso step. We show with extensive simulated and real network data, that our algorithm improves the accuracy of DAG structure learning by leveraging the information from the estimated row correlations. Moreover, we demonstrate that the performance of existing DAG learning methods can be substantially improved via de-correlation of network data with the estimated row correlation matrix from our algorithm.

연구 동기 및 목표

• 네트워크를 통해 연결된 개인들로부터 수집된 데이터에서 전통적인 DAG 모델의 독립성 위반 문제를 해결하기 위해.
• 가우시안 네트워크 데이터에서 DAG의 구조와 행 상관행렬을 동시에 추정하는 프레임워크를 개발하기 위해.
• 네트워크 구조에서 유래한 행 방향의 의존성 정보를 통합함으로써 DAG의 구조 학습 정확도를 향상시키기 위해.
• 기존의 DAG 학습 방법이 추정된 행 상관행렬을 이용한 탈상관 처리를 통해 어떻게 향상될 수 있는지 보여주기 위해.

제안 방법

• 이 방법은 최대 정규화된 우도 접근법을 사용해 DAG의 구조와 행 상관행렬을 동시에 추정한다.
• 분리된 라소 회귀 단계를 통해 DAG의 구조를 추정하고, 그래픽스 라소 단계를 통해 행 상관행렬을 추정하는 방식으로 반복적으로 번갈아가며 처리한다.
• 분리된 라소 단계는 행 방향 상관관계를 고려하면서도 DAG의 흐문성을 강제로 유지한다.
• 그래픽스 라소 단계는 흐문성 제약 조건 하에 역행 상관행렬을 추정한다.
• 알고리즘은 네트워크의 무방향 그래프를 활용해 행 의존성을 모델링함으로써 DAG와 상관관계 구조를 함께 최적화한다.
• 이 프레임워크는 시뮬레이션 및 실제 네트워크 데이터 모두에 대해 확장 가능하고 효과적인 설계를 갖추고 있다.

실험 결과

연구 질문

• RQ1 DAG의 구조와 행 상관관계를 동시에 모델링하는 통합 모델이 네트워크 구조를 가진 데이터에서 DAG 학습 정확도를 향상시킬 수 있는가?
• RQ2 무방향 그래프를 통해 행 의존성을 모델링할 경우 진짜 DAG의 복원에 어떤 영향을 미치는가?
• RQ3 기존의 DAG 학습 방법이 추정된 행 상관행렬을 이용한 사전 처리를 통해 어느 정도 향상될 수 있는가?
• RQ4 데이터가 네트워크 구조로 인해 의존적일 경우, 제안된 방법이 표준 DAG 학습 접근법보다 뛰어난 성능을 보일 수 있는가?

주요 결과

• 제안된 방법은 네트워크 구조에서 파생된 행 방향 상관관계를 통합함으로써 DAG의 구조 학습 정확도를 크게 향상시킨다.
• 반복적인 분리된 라소와 그래픽스 라소 알고리즘은 안정된 해에 수렴하며, DAG와 상관관계 구조를 효과적으로 포착한다.
• 추정된 행 상관행렬을 사용해 네트워크 데이터를 탈상관 처리하면, 기존의 DAG 학습 방법의 성능이 상당히 향상된다.
• 시뮬레이션과 실제 데이터 분석 결과, 특히 높은 행 상관관계 조건에서의 구조 복원 성능 향상이 일관되게 관찰된다.
• 다양한 네트워크 구조와 데이터 차원에 걸쳐 강인한 성능을 보여준다.
• 통합 추정 프레임워크는 DAG의 흐문성을 유지하면서도 네트워크 데이터의 의존성을 체계적으로 모델링할 수 있는 방법을 제공한다.