[논문 리뷰] Recovering Network Structure from Aggregated Relational Data using Penalized Regression

Hossein Alidaee, Eric Auerbach외 1명|arXiv (Cornell University)|2020. 01. 16.

Complex Network Analysis Techniques참고 문헌 14인용 수 14

한 줄 요약

이 논문은 핵노름에 벌점이 붙은 회귀를 사용하여 집계된 상호관계 데이터(ARD)로부터 잠재적인 사회망 구조를 복원하는 비모수적이고 빈도주의적 방법을 제안한다. 많은 경제 네트워크의 저효율 랭크 특성을 활용함으로써, 유한 표본 오차 경계를 확보하면서도 수백 명의 에이전트에 대해 몇 초 내에 빠른 계산이 가능하며, GitHub에 공개된 R 및 파이썬 코드를 통해 구현이 가능하다.

ABSTRACT

Social network data can be expensive to collect. Breza et al. (2017) propose aggregated relational data (ARD) as a low-cost substitute that can be used to recover the structure of a latent social network when it is generated by a specific parametric random effects model. Our main observation is that many economic network formation models produce networks that are effectively low-rank. As a consequence, network recovery from ARD is generally possible without parametric assumptions using a nuclear-norm penalized regression. We demonstrate how to implement this method and provide finite-sample bounds on the mean squared error of the resulting estimator for the distribution of network links. Computation takes seconds for samples with hundreds of observations. Easy-to-use code in R and Python can be found at https://github.com/mpleung/ARD.

연구 동기 및 목표

• 집계된 상호관계 데이터(ARD)로부터 잠재적 네트워크 구조를 복원하기 위한 비모수적이고 빈도주의적 방법을 개발함으로써, 제한적인 모수적 가정을 피하고자 한다.
• 네트워크 분포의 저효율 랭크 특성이 핵노름에 벌점이 붙은 회귀를 통해 ARD로부터 정확한 복원이 가능하다는 것을 입증하고자 한다.
• 네트워크 링크 추정기의 유한 표본 평균제곱오차 경계를 제공함으로써, 오차가 효율 랭크와 특성 수에 어떻게 영향을 받는지 연결하고자 한다.
• 경제학 및 사회과학 분야의 연구자들이 쉽게 사용할 수 있는 R 및 파이썬 코드를 통해 실용적 구현을 가능하게 하고자 한다.
• ARD의 적용 범위를 베이지안 모델을 넘어서 더 넓은 범주로 확장하고자 한다.

제안 방법

• ARD 반응 변수가 네트워크 링크와 특성 지표의 선형 함수임을 가정하여, ARD로부터의 네트워크 복원 문제를 고차원 선형 회귀 문제로 재구성한다.
• 많은 경제 네트워크가 저효율 랭크를 가지므로, 추정된 인cidenc 행렬에 핵노름에 벌점이 붙은 정규화를 적용하여 낮은 랭크의 구조를 강제한다.
• Ji와 Ye(2009)가 제안한 가속화된 경사하강법을 사용하여, 수백 명의 에이전트에 대해 몇 초 내에 벌점이 붙은 회귀 추정기를 효율적으로 계산한다.
• Negahban과 Wainwright(2011)의 접근 방식을 변형하여, 유한 표본 평균제곱오차 경계를 유도하며, 오차는 특성 수가 많아질수록 감소하고 효율 랭크가 클수록 증가함을 보였다.
• 추정된 행렬의 핵노름에 비례하는 벌점 항을 도입하여, 특정 모수적 모델을 가정하지 않고도 낮은 랭크 해를 유도한다.
• 다양한 네트워크 크기와 특성 수를 고려한 잠재공간 모델, 랜덤 도트 곱 그래프 모델, 스토케스틱 블록 모델 세 가지 네트워크 모델에서 방법의 유효성을 검증하였다.

실험 결과

연구 질문

• RQ1 네트워크 형성의 특정 모수적 모델을 가정하지 않고도 ARD로부터 네트워크 구조를 복원할 수 있는가?
• RQ2 복원된 네트워크 링크의 평균제곱오차는 ARD에서 사용된 특성 수와 진짜 네트워크의 효율 랭크에 어떻게 의존하는가?
• RQ3 핵노름에 벌점이 붙은 회귀는 ARD에 대한 베이지안 추정의 빠르고 확장 가능하며 비모수적 대안이 될 수 있는가?
• RQ4 다양한 네트워크 모델과 표본 크기에서 추정기의 유한 표본 성능은 어떠한가?
• RQ5 작은 수의 특성을 가진 ARD는 실증적 네트워크 분석에서 전체 네트워크 인벤토리의 대체로 충분한가?

주요 결과

• 복원된 네트워크 링크의 평균제곱오차는 진짜 네트워크의 효율 랭크를 ARD에서 사용된 특성 수로 나눈 비율에 비례하는 상수 배수로 경계된다.
• $ n = 500 $일 때, $ K = \text{round}(\sqrt{n}) $ 인 경우, 잠재공간 모델에서는 약 0.027, 랜덤 도트 곱 그래프 모델에서는 약 0.017, 스토케스틱 블록 모델에서는 약 0.036의 평균제곱오차를 기록한다.
• 작은 네트워크(예: $ n = 50 $)에서도 낮은 추정 오차를 기록하며, 네트워크 크기와 특성 수가 증가할수록 오차는 감소한다.
• 추정기는 계산이 매우 효율적이며, 가속화된 경사하강법을 사용해 수백 명의 에이전트가 포함된 네트워크에 대해 몇 초 내에 계산이 가능하다.
• 잠재공간 모델, 랜덤 도트 곱 그래프 모델, 스토케스틱 블록 모델을 포함한 다양한 네트워크 모델에서 강건하게 작동하며, $ n $이 증가할수록 일관된 성능 향상이 나타난다.
• 모수적 가정 없이도 네트워크 구조를 정확하게 복원할 수 있으며, ARD 응용 분야에서 베이지안 추정의 확장 가능한 대안을 제공한다.