[논문 리뷰] Detecting Time-dependent Structure in Network Data via a New Class of Latent Process Models

Lucy Robinson, Carey E. Priebe|arXiv (Cornell University)|2012. 12. 14.

Complex Network Analysis Techniques참고 문헌 13인용 수 6

한 줄 요약

이 논문은 동적 네트워크 데이터에서 시간에 따라 변화하는 구조적 변화를 탐지하기 위해 새로운 유형의 은닉 프로세스 모델을 도입한다. 잠재 정점 위치에 대한 혼합 분포를 사용하는 랜덤 도트 곱 모델을 활용하여 연결 행동과 간선 속성의 변화를 식별한다. 이 방법은 엔론 이메일 코퍼스에서 변화점들을 성공적으로 탐지하여, 서로 다른 소통 패턴을 보이는 변화하는 하위집단을 드러낸다.

ABSTRACT

We introduce a new class of latent process models for dynamic relational network data with the goal of detecting time-dependent structure. Network data are often observed over time, and static network models for such data may fail to capture relevant dynamic features. We present a new technique for identifying the emergence or disappearance of distinct subpopulations of vertices. In this formulation, a network is observed over time, with attributed edges appearing at random times. At unknown time points, subgroups of vertices may exhibit a change in behavior. Such changes may take the form of a change in the overall probability of connection within or between subgroups, or a change in the distribution of edge attributes. A mixture distribution for latent vertex positions is used to detect heterogeneities in connectivity behavior over time and over vertices. The probability of edges with various attributes at a given time is modeled using a latent-space stochastic process associated with each vertex. A random dot product model is used to describe the dependency structure of the graph. As an application we analyze the Enron email corpus.

연구 동기 및 목표

• 시간이 지남에 따라 변화하는 연결 패턴을 포착하지 못하는 정적 네트워크 모델의 한계를 해결하기 위해.
• 정점의 하위집단이 연결 행동이나 간선 속성 분포를 변화시키는 잠재된 변화점들을 탐지하기 위해.
• 시간에 따라 변화하는 연결 확률을 갖는 은닉 프로세스의 혼합을 통해 동적 네트워크의 진화를 모델링하기 위해.
• 스트리밍 네트워크 데이터에서 새로운 하위집단이 형성되거나 사라지는 것을 식별할 수 있도록 하기 위해, 예를 들어 소셜 네트워크나 통신 네트워크에서의 응용을 위해.
• 베이지안 계층적 프레임워크를 통해 은닉 공간 모델을 시간적 동역학과 이질적인 정점 행동을 통합하도록 확장하기 위해.

제안 방법

• K차원 단체형에서의 은닉 정점 위치를 기반으로 간선 확률을 정의하기 위해 랜덤 도트 곱 모델을 사용한다.
• 정점 간의 연결 행동에 대한 이질성을 시간에 따라 포착하기 위해 은닉 위치에 대한 혼합 분포를 적용한다.
• 시간에 따라 변화하는 카테고리형 속성을 갖는 간선 생성을 확률적 과정으로 모델링하며, 각 정점에 대해 은닉 공간 기반의 확률적 프로세스를 사용한다.
• 추론을 위해 E단계(은닉 위치의 후행 기대값 계산)와 CM단계(파rameter의 조건부 최대화)를 포함하는 EM 유사 알고리즘을 사용한다.
• 계산 효율성을 위해 행렬 분해와 원소별 업데이트를 활용하여 반복적으로 기울기 상승을 수행하여 은닉 위치를 업데이트한다.
• 접근 시간 간격에서 연결 행동의 변화가 발생하는 지점을 추정함으로써 변화점 탐지를 통합하며, 전이 지점으로서 파라미터 τ₁과 τ₂를 정의한다.

실험 결과

연구 질문

• RQ1 동적 네트워크의 하위집단이 연결 행동에서 유의미한 변화를 보이는 시간점은 언제인가?
• RQ2 시간이 지남에 따라 정점 집단 간의 연결 확률이나 간선 속성 분포에서 변화가 발생하는지를 어떻게 탐지할 수 있는가?
• RQ3 스트리밍 관계 데이터에서 변화하는 네트워크 위상 구조를 가장 잘 설명하는 은닉 구조는 무엇인가?
• RQ4 시간에 따라 변화하는 파라미터를 갖는 은닉 프로세스의 혼합은 이질적인 정점 행동을 효과적으로 모델링할 수 있는가?
• RQ5 실제 데이터에서 시간이 지남에 따라 나타나거나 사라지는 공동체 유사 하위집단을 탐지하는 데 모델이 얼마나 잘 성능을 발휘하는가?

주요 결과

• 모델은 엔론 이메일 코퍼스에서 여러 변화점을 성공적으로 탐지하여, 서로 다른 하위집단 간의 소통 패턴 변화를 식별했다.
• 이 방법은 활동 폭발이나 새로운 소통 클러스터 형성과 같은 특이한 연결 행동을 보이는 하위집단을 드러냈다.
• 혼합 사전 분포를 사용하는 랜덤 도트 곱 모델을 도입함으로써, 사전에 알려진 공동체 구조를 가정하지 않고도 구조적 변화를 정확하게 탐지할 수 있었다.
• α₀와 α₁의 파라미터 추정치는 반복 업데이트를 통해 수렴하며, 알고리즘이 여러 번의 EM 반복 후 안정된 추론에 도달했다.
• 시간이 지남에 따라 간선 확률과 속성 분포의 변화를 포착함으로써 정적 대안보다 모델 성능이 뛰어났다.
• 알고리즘은 정점 행동이 변화하는 시간 간격을 식별하였으며, τ₁과 τ₂는 행동 변화의 시작 시점과 지속 기간을 추정한다.