[논문 리뷰] Spectral density of random graphs: convergence properties and application in model fitting

Catherine Matias|arXiv (Cornell University)|2021. 01. 01.

Random Matrices and Applications참고 문헌 59인용 수 6

한 줄 요약

이 논문은 무작위 그래프 이론에서 일반적인 모형 적합 절차의 이론적 일致성을 확립한다. Kullback-Leibler 발산 대신 경험적 및 한계 스펙트럼 밀도 간의 ℓ1 거리를 사용함으로써 이루어진다. 약한 수렴, 단사성, 연속성, 컴actness 조건 하에서 경험적 스펙트럼 분포의 약한 수렴이 성립할 경우, 추정된 매개변수는 확률적으로 참값으로 수렴함을 증명한다. 이는 다양한 무작위 그래프 모형에 걸쳐 스펙트럼 밀도 기반의 모형 적합 및 선택에 대한 첫 이론적 기반을 제공한다.

ABSTRACT

Random graph models are used to describe the complex structure of real-world networks in diverse fields of knowledge. Studying their behaviour and fitting properties are still critical challenges that, in general, require model-specific techniques. An important line of research is to develop generic methods able to fit and select the best model among a collection. Approaches based on spectral density (i.e. distribution of the graph adjacency matrix eigenvalues) appeal to that purpose: they apply to different random graph models. Also, they can benefit from the theoretical background of random matrix theory. This work investigates the convergence properties of model fitting procedures based on the graph spectral density and the corresponding cumulative distribution function. We also review the convergence of the spectral density for the most widely used random graph models. Moreover, we explore through simulations the limits of these graph spectral density convergence results, particularly in the case of the block model, where only partial results have been established. random graphs, spectral density, model fitting, model selection, convergence.

연구 동기 및 목표

• . 스펙트럼 밀도 기반의 모형 적합에 대한 이론적 일치성을 무작위 그래프에서 확립하기 위해.
• . 무작위 그래프 이론에서 일반적이고 모형에 종속되지 않는 매개변수 추정 및 모형 선택 방법의 부족을 해결하기 위해.
• . Takahashi 등(2021)이 제안한 절차에 대해 Kullback-Leibler 발산 대신 ℓ1 거리를 사용함으로써 스펙트럼 밀도를 사용하는 절차에 대한 이론적 근거를 제공하기 위해.
• . Erdős–Rényi, SBM, WS, BA, GRG와 같은 주요 무작위 그래프 모형들에서 경험적 스펙트럼 분포(ESD)의 수렴 특성을 탐구하기 위해.
• . 시뮬레이션과 실세계 데이터를 통한 ESD 및 누적분포함수(CDF) 기반 적합 절차의 성능을 평가하기 위해.

제안 방법

• . 인접행렬 고유값의 경험적 스펙트럼 분포(ESD)를 핵심 통계적 대상으로 사용한다.
• . Takahashi 등(2021)에서 사용한 Kullback-Leibler 발산을 이론적 취급 가능성을 확보하기 위해 ℓ1 거리로 대체한다.
• . 경험적 스펙트럼 분포의 약한 수렴, 매개변수 공간에서 한계 스펙트럼 분포로의 사상의 단사성 및 연속성, 매개변수 공간의 컴actness라는 세 가지 핵심 가정 하에서 매개변수 추정기의 일치성을 증명한다.
• . 약한 수렴의 랜덤 측도와 고유값의 수렴 분포를 활용하여 渐近적 성질을 수립한다.
• . 해석적 형태가 없는 경우 한계 스펙트럼 분포의 몬테카를로 근사를 사용한다.
• . ER, WS, BA, GRG, SBM 모형에서의 시뮬레이션 실험을 통해 ESD 및 CDF 기반 적합 절차의 성능을 비교한다.

실험 결과

연구 질문

• RQ1 . 약한 수렴, 단사성, 연속성, 컴actness 조건 하에서 경험적 스펙트럼 분포와 한계 스펙트럼 분포 간 ℓ1 거리의 최소화자가 확률적으로 참값으로 수렴하는가?
• RQ2 . Kullback-Leibler 발산 대신 ℓ1 거리를 사용할 경우 스펙트럼 밀도 기반 모형 적합의 이론적 일치성이 확립될 수 있는가?
• RQ3 . Erdős–Rényi, 스토케스틱 블록, Watts-Strogatz, Barabási-Albert, 기하 무작위 그래프와 같은 주요 무작위 그래프 모형들에서 경험적 스펙트럼 분포의 수렴 특성은 어떻게 변화하는가?
• RQ4 . 매개변수 추정 정확도와 수렴 속도 측면에서 ESD 기반과 CDF 기반 모형 적합 절차의 상대적 성능은 어떠한가?
• RQ5 . 제안된 방법은 라플라시안 또는 정규화된 라플라시안과 같은 다른 그래프 행렬로 일반화될 수 있는가?

주요 결과

• . 약한 수렴, 단사성, 연속성, 컴actness 조건 하에서 경험적 스펙트럼 분포와 한계 스펙트럼 분포 간 ℓ1 거리의 최소화자는 참값 매개변수의 일致 추정기이다.
• . 수렴 성질이 유사하므로 스펙트럼 밀도 대신 고유값의 누적분포함수(CDF)를 사용하는 데에도 이론 결과가 강인하다.
• . 시뮬레이션 결과, Erdős–Rényi 그래프에서는 ESD 기반 적합이 더 빠르게 수렴하는 것으로 나타났고, Barabási-Albert 및 기하 무작위 그래프에서는 ESD 추정에서 폭 넓이 선택이 어려운 경우 CDF 기반 적합이 더 우수한 성능을 보였다.
• . 해석적 한계 스펙트럼 분포가 존재하지 않을 경우 몬테카를로 근사를 통해 ESD를 근사함으로써 일치 추정이 가능하며, 그래프 크기가 증가할수록 수렴 성능이 향상된다.
• . 스펙트럼 밀도 간 ℓ1 거리 기반 모형 선택 절차는 대규모 그래프에서 정확한 모형을 식별하는 데 100%의 성공률를 기록했지만, 특정 조건 하에서 모형 간 구별이 어려운 경우(예: ER 및 d-정규 그래프)가 존재할 수 있다.
• . 분석적 한계 스펙트럼 분포가 있는 경우 절차의 계산 비용은 O(n³)이며, 몬테카를로 근사를 사용할 경우 O(n³|Θ̃|M)이지만, 빠른 스펙트럼 근사 방법을 활용하면 O(|E|) 또는 O(|E||Θ̃|M)로 감소시킬 수 있어 확장 가능성 잠재력을 보인다.