[논문 리뷰] Tail Bounds for Matrix Quadratic Forms and Bias Adjusted Spectral Clustering in Multi-layer Stochastic Block Models

Jing Lei|arXiv (Cornell University)|2020. 03. 18.

Random Matrices and Applications참고 문헌 58인용 수 7

한 줄 요약

이 논문은 스칼라 및 행렬 농도 부등식을 행렬 값의 이차형식과 U-통계량으로 확장하여 새로운 尾 꼬리 경계를 개발한다. 이 도구들을 활용해 복잡한 신호 구조를 가진 다층 스토하스틱 블록 모델에서 편향 보정 스펙트럼 클러스터링 방법의 일致성을 확립한다.

ABSTRACT

We develop tail probability bounds for matrix linear combinations with matrix-valued coefficients and matrix-valued quadratic forms. These results extend well-known scalar case results such as the Hanson--Wright inequality, and matrix concentration inequalities such as the matrix Bernstein inequality. A key intermediate result is a deviation bound for matrix-valued $U$-statistics of order two and their independent sums. As an application of these probability tools in statistical inference, we establish the consistency of a novel bias-adjusted spectral clustering method in multi-layer stochastic block models with general signal structures.

연구 동기 및 목표

• 스칼라 및 행렬 농도 부등식을 행렬 값의 이차형식과 U-통계량으로 확장하기.
• 행렬 계수를 가진 행렬 선형 조합을 분석하기 위한 확률 도구 개발하기.
• 일반적인 신호 구조를 가진 다층 스토하스틱 블록 모델에서 엄밀한 통계적 추론을 가능하게 하기.
• 복잡한 신호 구조를 가진 이러한 모델에서 새로운 편향 보정 스펙트럼 클러스터링 절차의 일관성 확립하기.

제안 방법

• 두 차수의 행렬 값 U-통계량과 그 독립 합에 대한 편차 경계를 핵심 중간 결과로 유도하기.
• 행렬 계수를 가진 행렬 선형 조합에 대한 尾 확률 경계를 유도하여 하이즈먼-워렌과 행렬 베르누이 부등식을 일반화하기.
• 이러한 농도 부등식을 네트워크 편향으로 인한 모델 오특정 상황에서 스펙트럼 클러스터링 알고리즘 분석에 적용하기.
• 다층 네트워크 데이터의 체계적 오차를 보정하기 위한 편향 보정 스펙트럼 클러스터링 방법 제안하기.
• 유도된 경계를 사용하여 일반적인 신호 구성에서 클러스터링 절차의 일관성 증명하기.
• 실제 네트워크 데이터를 반영하기 위해 임의의 신호 구조를 가진 다층 스토하스틱 블록 모델 설정하기.

실험 결과

연구 질문

• RQ1 어떻게 하면 행렬 농도 부등식을 행렬 계수를 가진 행렬 값 이차형식에 적용할 수 있는가?
• RQ2 고차원 설정에서 두 차수의 행렬 값 U-통계량의 편차 성질은 무엇인가?
• RQ3 복잡하고 비균일한 신호 구조를 가진 다층 스토하스틱 블록 모델에서 편향 보정 스펙트럼 클러스터링이 일관성을 달성할 수 있는가?
• RQ4 다층 네트워크 모델에서 스펙트럼 클러스터링을 엄밀히 분석하기 위해 필요한 확률 도구는 무엇인가?
• RQ5 유도된 尾 경계는 제안된 클러스터링 방법의 일관성을 어떻게 보장하는가?

주요 결과

• 논문은 하이즈먼-워렌과 행렬 베르누이 부등식을 행렬 값 설정으로 일반화하는 새로운 행렬 이차형식에 대한 尾 경계를 확립한다.
• 핵심 중간 결과로는 두 차수의 행렬 값 U-통계량과 그 독립 합에 대한 편차 경계가 제시된다.
• 제안된 편향 보정 스펙트럼 클러스터링 방법은 일반적인 신호 구조를 가진 다층 스토하스틱 블록 모델에서 일관성이 입증된다.
• 유도된 농도 부등식은 임의의 신호 구성이 있는 다층 네트워크 데이터에서 엄밀한 통계적 추론을 가능하게 한다.
• 이 방법은 네트워크 편향을 효과적으로 보정하여 다층 설정에서 클러스터링 정확도를 향상시킨다.
• 이론적 프레임워크는 i.i.d. 또는 블록-상수 가정을 초월한 복잡하고 현실적인 네트워크 모델에서 스펙트럼 클러스터링의 활용을 뒷받침한다.