[논문 리뷰] Identifying the Topology of Undirected Networks from Diffused Non-stationary Graph Signals

Rasoul Shafipour, Santiago Segarra외 2명|arXiv (Cornell University)|2018. 01. 11.

Advanced Graph Neural Networks인용 수 12

한 줄 요약

이 논문은 비정상적인 확산 그래프 신호로부터 비방향 그래프의 구조를 추론하기 위한 새로운 방법을 제안한다. 이 방법은 기저가 되는 확산 필터의 시스템 식별을 통해 그래프 이동 연산자(GSO)를 식별함으로써, 알려진 입력 신호 통계와 다항식 필터링 구조를 활용하여, 임의의 입력 상관관계가 존재하는 상황에서도 그래프의 고유벡터와 고유값을 유일하게 복원한다. 선형 및 이차 입력 모델에 대해 이론적 식별 가능성과 실용적인 알고리즘을 제공한다.

ABSTRACT

We address the problem of inferring an undirected graph from nodal observations, which are modeled as non-stationary graph signals generated by local diffusion dynamics that depend on the structure of the unknown network. Using the so-called graph-shift operator (GSO), which is a matrix representation of the graph, we first identify the eigenvectors of the shift matrix from realizations of the diffused signals, and then estimate the eigenvalues by imposing desirable properties on the graph to be recovered. Different from the stationary setting where the eigenvectors can be obtained directly from the covariance matrix of the observations, here we need to estimate first the unknown diffusion (graph) filter -- a polynomial in the GSO that preserves the sought eigenbasis. To carry out this initial system identification step, we exploit different sources of information on the arbitrarily-correlated input signal driving the diffusion on the graph. We first explore the simpler case where the observations, the input information, and the unknown graph filter are linearly related. We then address the case where the relation is given by a system of matrix quadratic equations, which arises in pragmatic scenarios where only the second-order statistics of the inputs are available. While such quadratic filter identification problem boils down to a non-convex fourth-order polynomial minimization, we discuss identifiability conditions, propose algorithms to approximate the solution and analyze their performance. Numerical tests illustrate the effectiveness of the proposed topology inference algorithms in recovering brain, social, financial and urban transportation networks using synthetic and real-world signals.

연구 동기 및 목표

• 비국소적 확산 동역학에 의해 생성된 비정상적인 그래프 신호로부터 비방향 그래프의 구조를 추론하는 문제에 대응하기 위해.
• 입력 신호 공분산이 백색이 아닌 임의의 경우에도 그래프 이동 연산자(GSO)를 복원하기 위해.
• 관측된 확산 신호와 입력 신호 통계를 이용하여 알려지지 않은 GSO의 고유벡터와 고유값을 식별하기 위해.
• 선형 및 이차 입력 신호 관계 모델 하에서 그래프 구조 추론 알고리즘을 개발하고, 이론적 식별 가능성 보장을 위해.

제안 방법

• 모르는 GSO에 대한 다항식-기반 필터 모델을 사용하여 확산 과정을 표현하며, 출력 신호가 입력 신호를 모른 GSO의 다항식 행렬 변환을 통해 생성된다.
• 출력 신호의 세차 누적량 텐서의 텐서 기반 PARAFAC 분해를 활용하여, 알려진 입력 공분산 구조를 이용해 GSO의 고유벡터를 추정한다.
• 회복된 필터 행렬의 대칭성 제약 조건을 적용하여 고유벡터 추정의 부호 모호성을 해결함으로써, GSO의 부호 순열을 제외한 유일한 식별을 보장한다.
• 두 번째 차수의 입력 통계만 이용 가능한 경우, 행렬 이차방정식 시스템에서 유도된 이진 이차계획문제(BQP)를 설정하여 그래프 필터를 추정한다.
• 비볼록 BQP 해를 근사하기 위해 정수형 프로그래밍을 이용한 준정수형 프로그래밍을 적용하여 실용적인 구현이 가능하게 하며, 성능 분석도 수행한다.
• 입력 및 출력 신호 공분산의 크루스칼 랭크와 스펙트럼 성질에 기반한 식별 가능성 조건을 도입하여, GSO의 유일한 복원을 보장한다.

실험 결과

연구 질문

• RQ1 입력 신호 공분산이 임의이거나 백색이 아닌 비정상적인 확산 신호로부터 그래프 이동 연산자(GSO)를 부호 순열을 제외하고 유일하게 식별할 수 있는가?
• RQ2 그래프 구조에 대한 사전 지식 없이도 관측된 확산 신호로부터 알려지지 않은 GSO의 고유벡터를 어떻게 추정할 수 있는가?
• RQ3 두 번째 차수의 입력 신호 통계만 이용 가능한 경우, GSO를 복원하기 위한 식별 가능성 조건은 무엇인가?
• RQ4 입력-출력 관계를 모델링하는 행렬 이차방정식 시스템은 효율적으로 풀 수 있는가? 이를 통해 그래프 필터 및 그래프 구조를 복원할 수 있는가?
• RQ5 제안된 알고리즘이 뇌, 사회망, 금융, 도시 이동망과 같은 실세계 네트워크 구조를 얼마나 잘 복원하는가?

주요 결과

• 제안된 방법은 출력 신호의 세차 누적량 텐서의 구조와 알려진 입력 공분산을 활용하여, 알려지지 않은 GSO의 고유벡터를 유일하게 복원한다.
• 고유벡터 추정의 부호 모호성을 복구된 필터 행렬의 대칭성 조건을 적용하여 해결함으로써, GSO의 부호 순열을 제외한 유일한 식별이 보장된다.
• 이차 입력 모델의 경우 문제는 이진 이차계획문제(BQP)로 축소되며, 이는 준정수형 프로그래밍을 통해 근사되며 이론적 수렴 보장이 있다.
• 합성 및 실세계 네트워크에서의 수치 실험에서 정확한 구조 복원 성능을 달성하였으며, 뇌 기능 연결성, 사회망, 금융 시계열, 도시 이동성 데이터를 포함한다.
• 유일한 복원이 미약한 조건 하에서도 보장된다: 입력 공분산의 크루스칼 랭크는 최소 2 이상이며, 필터 행렬은 가역적이며 대칭적이다.
• 실세계 응용에서 흔한 상관된 입력 신호를 명시적으로 고려함으로써, 비정상적 환경에서 정상 신호 기반 방법보다 성능이 뛰어나다.