[논문 리뷰] The Importance of Being Correlated: Implications of Dependence in Joint Spectral Inference across Multiple Networks

Konstantinos Pantazis, Avanti Athreya외 4명|PubMed|2020. 08. 01.

Functional Brain Connectivity Studies참고 문헌 83인용 수 4

한 줄 요약

이 논문은 다중 네트워크 간 통합 스펙트럼 추론을 위한 일반화된 옴니버스 임bedding 방법을 제안하며, 데이터에서 유래하는 본질적 네트워크 상관관계(내재 상관관계)와 임베딩 과정에서 유도되는 상관관계(유도 상관관계)를 명시적으로 모델링한다. 일致성과 중심극한정리의 증명을 통해 두 상관관계 유형을 고려할 경우 기존 방법보다 생물학적 네트워크 시계열에서 미세한 변화를 더 잘 탐지할 수 있음을 보여준다.

ABSTRACT

Spectral inference on multiple networks is a rapidly-developing subfield of graph statistics. Recent work has demonstrated that joint, or simultaneous, spectral embedding of multiple independent networks can deliver more accurate estimation than individual spectral decompositions of those same networks. Such inference procedures typically rely heavily on independence assumptions across the multiple network realizations, and even in this case, little attention has been paid to the induced network correlation that can be a consequence of such joint embeddings. In this paper, we present a <i>generalized omnibus</i> embedding methodology and we provide a detailed analysis of this embedding across both independent and correlated networks, the latter of which significantly extends the reach of such procedures, and we describe how this omnibus embedding can itself induce correlation. This leads us to distinguish between <i>inherent</i> correlation-that is, the correlation that arises naturally in multisample network data-and <i>induced</i> correlation, which is an artifice of the joint embedding methodology. We show that the generalized omnibus embedding procedure is flexible and robust, and we prove both consistency and a central limit theorem for the embedded points. We examine how induced and inherent correlation can impact inference for network time series data, and we provide network analogues of classical questions such as the effective sample size for more generally correlated data. Further, we show how an appropriately calibrated generalized omnibus embedding can detect changes in real biological networks that previous embedding procedures could not discern, confirming that the effect of inherent and induced correlation can be subtle and transformative. By allowing for and deconstructing both forms of correlation, our methodology widens the scope of spectral techniques for network inference, with import in theory and practice.

연구 동기 및 목표

• 기존의 통합 스펙트럼 임베딩 방법이 네트워크 실현 간 독립을 가정하는 데서 비롯하는 한계를 해결하기 위해, 자연적인(내재된) 상관관계와 방법론적(유도된) 상관관계를 고려하지 못하는 문제를 해결한다.
• 독립적이고 상관관계가 있는 네트워크를 모두 다룰 수 있는 유연하고 강력한 일반화된 옴니버스 임베딩 프레임워크를 개발한다. 특히 증가하는 상관관계를 가지는 시계열 데이터에도 적용 가능하다.
• 내재 상관관계(데이터에서 유래)와 유도 상관관계(통합 임베딩에서 유도)를 공식적으로 구분하고, 이들이 추론에 미치는 영향을 분석함으로써 그 전환적 영향을 규명한다.
• 기존의 통계 개념인 유효 표본 크기와 같은 개념을 관련 네트워크 데이터로 확장하기 위해, 두 상관관계 유형이 추론 정확도에 미치는 영향을 정량화함으로써 일반화한다.
• 실제 생물학적 네트워크 시계열 데이터를 대상으로 방법을 검증하여, 기존 임베딩 기법보다 네트워크 변화 탐지 능력이 향상되었음을 보여준다.

제안 방법

• 네트워크 인접행렬의 가중합으로 구성된 일반화된 옴니버스 임베딩 행렬을 제안하며, $\widetilde{P} = J_m \otimes P$ 형태의 구조적 평균행렬을 사용하여 저질서 구조를 유지하고 일관된 추정을 가능하게 한다.
• E가 $\vec{1}$을 주요 고유벡터로 가지는 크로네커 곱 프레임워크 $E \otimes P$를 활용하여 저질서 성질을 유지하고 네트워크 간 고유공간 정렬을 가능하게 한다.
• 일반화된 옴니버스 프레임워크 하에서 임베딩 점에 대한 중심극한정리를 유도하여 추정기의 점근적 정규성을 확립한다.
• 시간이 지남에 따라 상관관계가 증가하는 상황을 모델링하기 위해 전진 옴니버스 행렬 $\mathfrak{M}_{\text{for}}$와 같은 대안적 구성법을 도입하여 다양한 상관관계 구조 모델링을 가능하게 한다.
• 핵심으로 정렬된 정점들을 함께 임베딩하고, 비정렬 정점으로 확장함으로써 샘플 외 임베딩을 위한 프레임워크를 개발하며, 시딩 그래프 매칭과 같은 응용에 기여한다.
• 더 희박한 그래프 및 비대칭 OMNI 행렬로의 확장을 탐색하며, 초보적 결과는 일반적인 경우에 대해 점근적 타당성의 잠재적 가능성을 시사한다.

실험 결과

연구 질문

• RQ1 시간에 따라 의존성이 존재하는 네트워크 시계열에서 발생하는 내재 상관관계가 스펙트럼 추론 정확도에 어떤 영향을 미치는가?
• RQ2 통합 임베딩 과정 자체가 인위적인 상관관계를 얼마나 유도하는가? 그리고 이는 후속 추론에 어떤 영향을 미치는가?
• RQ3 일반화된 옴니버스 임베딩 프레임워크는 독립적이고 상관관계가 있는 네트워크 설정 모두에서 잠재 위치를 일관되게 추정할 수 있는가?
• RQ4 유효 표본 크기와 같은 고전적 개념은 관련 네트워크 데이터의 맥락에서 어떻게 재정의될 수 있는가?
• RQ5 제안된 방법은 기존 임베딩 기법이 간과하는 생물학적으로 의미 있는 네트워크 구조 변화를 탐지할 수 있는가?

주요 결과

• 일반화된 옴니버스 임베딩은 일관성과 중심극한정리를 만족하여, 독립적이고 상관관계가 있는 네트워크 설정 모두에서 신뢰할 수 있는 점근적 추론을 보장한다.
• 이 방법은 이전의 임베딩 절차로는 탐지되지 않았던 실제 생물학적 네트워크 시계열에서의 미세한 변화를 성공적으로 탐지하여 실용적 우수성을 입증한다.
• 통합 임베딩에서 유도된 상관관계는 진짜 네트워크 차이를 가리거나 과대강조할 수 있으므로, 정확한 추론을 위해 이를 명시적으로 모델링하는 것이 필수적이다.
• 전진 옴니버스 모델은 네트워크 쌍 간의 상관관계를 점차 증가시키며, 시간이 지남에 따라 상관관계가 증가하는 시계열 데이터의 모델링을 가능하게 한다.
• 크로네커 구조 $J_m \otimes P$는 옴니버스 행렬의 주요 $d$차원 고유공간이 진짜 잠재공간과 일치함을 보장하여 해석 가능성을 유지한다.
• 샘플 외 임베딩 및 더 희박한 그래프 영역으로의 확장은 가능하며 잠재력이 있으며, 일반적인 경우에 대해 점근적 결과는 아직 탐색 중이다.