[논문 리뷰] A General Framework for Mixed Graphical Models

Eunho Yang, Pradeep Ravikumar외 4명|arXiv (Cornell University)|2014. 11. 02.

Soil Geostatistics and Mapping참고 문헌 49인용 수 14

한 줄 요약

이 논문은 블록 방향 마르코프 무작위 필드(BDMRFs)를 소개한다. BDMRFs는 이원, 계수, 연속 변수와 같은 혼합형 변수를 방향성과 비방향성 간선을 모두 포함하는 하이브리드 그래프 구조를 사용하여 모델링하는 새로운 다변량 분포의 클래스이다. 단변량 지수족을 활용하고 블록-DAG를 통해 연결함으로써, 고차원 혼합 데이터에서 복잡한 의존 구조를 효율적이고 통계적으로 보장된 방법으로 추정할 수 있는 프레임워크를 제공한다. 이는 유전체학 및 기타 대용량 데이터 응용 분야에서 성공적으로 적용되었다.

ABSTRACT

"Mixed Data" comprising a large number of heterogeneous variables (e.g. count, binary, continuous, skewed continuous, among other data types) are prevalent in varied areas such as genomics and proteomics, imaging genetics, national security, social networking, and Internet advertising. There have been limited efforts at statistically modeling such mixed data jointly, in part because of the lack of computationally amenable multivariate distributions that can capture direct dependencies between such mixed variables of different types. In this paper, we address this by introducing a novel class of Block Directed Markov Random Fields (BDMRFs). Using the basic building block of node-conditional univariate exponential families from Yang et al. (2012), we introduce a class of mixed conditional random field distributions, that are then chained according to a block-directed acyclic graph to form our class of Block Directed Markov Random Fields (BDMRFs). The Markov independence graph structure underlying a BDMRF thus has both directed and undirected edges. We introduce conditions under which these distributions exist and are normalizable, study several instances of our models, and propose scalable penalized conditional likelihood estimators with statistical guarantees for recovering the underlying network structure. Simulations as well as an application to learning mixed genomic networks from next generation sequencing expression data and mutation data demonstrate the versatility of our methods.

연구 동기 및 목표

• 이진, 계수, 연속 변수와 같은 이질적인 데이터 유형 간 직접적인 의존성을 모델링할 수 있는 계산적으로 유용한 다변량 분포의 부족을 해결하기 위해.
• 특히 고차원 설정에서 혼합 변수 유형 간 풍부한 의존 구조를 지원하는 일반적인 다변량 분포의 파arametric 클래스를 개발하기 위해.
• 혼합 그래픽 모델에서의 기저 네트워크 구조를 학습하기 위해 강력한 통계적 보장을 갖춘 확장 가능한 페널라이제이션 조건부 우도 추정기법을 제공하기 위해.
• 유전자 발현, 돌연변이, 메틸화와 같은 다양한 오미크스 데이터를 통합 분석하여 생물학적으로 의미 있는 조절 관계를 밝혀내기 위해.
• 기존의 가우시안 및 이징 모델과 같은 그래픽 모델을 통합 프레임워크 내에서 혼합형 변수 유형과 동시에 방향성 및 비방향성 의존성을 허용함으로써 일반화하기 위해.

제안 방법

• 노드 조건부 단변량 지수족을 기반으로 한 블록 방향 마르코프 무작위 필드(BDMRFs)의 다변량 분포 클래스를 제안한다.
• 변수 블록 간의 조건부 의존성을 나타내기 위해 블록-방향 비순환 그래프(DAG)를 사용하며, 블록 간에는 방향성 간선, 블록 내에는 비방향성 간선을 사용한다.
• 지수족에서 유도된 조건부 분포를 연결하여 공동 분포를 구성함으로써, 더 유연한 조건 하에서도 정규화 가능성을 보장한다.
• 기저 네트워크 구조를 복구하기 위해 페널라이제이션 조건부 우도 추정기법을 활용하며, 일致성과 희박성에 대한 이론적 보장을 제공한다.
• 실세계 데이터에 프레임워크를 적용하기 위해, 단일 통합 모델 내에서 SNP(이진), RNA-seq(계수), 메틸화(연속)와 같은 혼합 유전자형 변수를 모델링한다.
• 다음세대 시퀀싱으로부터 확보한 유방암 유전체학 데이터를 활용한 시뮬레이션 및 실제 응용을 통해 방법을 검증한다.

실험 결과

연구 질문

• RQ1 이원, 계수, 연속 변수와 같은 혼합형 변수 간의 복잡한 의존성을 단일 다변량 분포 내에서 통합된 통계적 프레임워크로 모델링할 수 있는가?
• RQ2 혼합형 변수 유형에 대해 조건부 지수족으로 구성된 공동 분포의 정규화 가능성을 보장하는 조건은 무엇인가?
• RQ3 확장 가능한 페널라이제이션 우도 추정기법이 고차원 혼합 데이터에서 기저 네트워크 구조를 이론적 보장 하에 정확하게 복구할 수 있는가?
• RQ4 제안된 BDMRF 프레임워크는 다양한 유형의 유전자 생물지표 간의 생물학적으로 의미 있는 조절 관계를 얼마나 잘 식별하는가?
• RQ5 기본 변수 블록 간의 DAG 구조가 알려져 있거나 부분적으로 잘못 지정된 경우, 모델이 얼마나 잘 의존성을 학습할 수 있는가?

주요 결과

• BDMRF 프레임워크는 이진, 계수, 연속, 비대칭 연속 변수를 포함한 다양한 혼합형 변수 유형을 단일 통합 확률 모델 내에서 지원한다.
• 제안된 모델은 비교적 유연한 조건 하에서도 정규화 가능하며, 다양한 통계적 응용에 활용할 수 있다.
• 페널라이제이션 조건부 우도 추정기법은 고차원 설정에서도 기저 네트워크 구조를 높은 확률로 일致성 있게 복구한다.
• 유방암 유전체학 응용 사례에서, TP53 돌연변이가 ADAM6 발현에 영향을 주고, FGF3 돌연변이가 CCND1 발현에 영향을 준다는 알려진 생물학적 관계를 성공적으로 식별하였다.
• 시뮬레이션 결과에서, 모델은 혼합 그래픽 구조 내에서 방향성 및 비방향성 간선을 정확하게 복구하는 데 뛰어난 성능을 보였다.
• 기존의 가우시안 및 이징 그래픽 모델을 일반화하며, 혼합 데이터 유형과 동시에 방향성 및 비방향성 의존성을 허용하는 통합 프레임워크로 확장하였다.