[논문 리뷰] Finding the right scale of a network: Efficient identification of causal emergence through spectral clustering

Ross Griebenow, Brennan Klein외 1명|arXiv (Cornell University)|2019. 08. 20.

Complex Network Analysis Techniques참고 문헌 24인용 수 6

한 줄 요약

이 논문은 선호적 첨착 네트워크에서 정보적인 거시스케일 표현을 효율적으로 식별하기 위해 스펙트럴 클러스터링 기반 방법을 제안한다. 이 방법은 효과적 정보(EI), 결정론성 및 네트워크 효율성 측면에서 미세스케일 네트워크보다 상당히 뛰어난 성능을 보임을 입증한다. 이 접근법은 속도와 성능 모두에서 탐욕적 및 경사 하강법보다 뛰어나며, 대규모 네트워크에서 원인의 기원을 확장 가능한 방식으로 탐지할 수 있게 한다.

ABSTRACT

All networks can be analyzed at multiple scales. A higher scale of a network is made up of macro-nodes: subgraphs that have been grouped into individual nodes. Recasting a network at higher scales can have useful effects, such as decreasing the uncertainty in the movement of random walkers across the network while also decreasing the size of the network. However, the task of finding such a macroscale representation is computationally difficult, as the set of all possible scales of a network grows exponentially with the number of nodes. Here we compare various methods for finding the most informative scale of preferential attachment networks, discovering that an approach based on spectral analysis outperforms greedy and gradient descent-based methods. We then use this procedure to show how several structural properties of these networks vary across scales. We describe how meso- and macroscale representations of networks can have significant benefits over their underlying microscale in terms of information transmission, which include properties such as increase in determinism, a decrease in degeneracy, a lower entropy rate of random walkers on the network, an increase in global network efficiency, and higher values for a variety of centrality measures than the microscale.

연구 동기 및 목표

• 복잡한 네트워크에서 정보적인 거시스케일 표현을 식별하는 데 발생하는 계산적 과제를 해결하기 위해.
• 탐욕적, 경사 하강법, 스펙트럴 클러스터링 등의 다양한 알고리즘을 비교 평가하여 네트워크 스케일 전반에서 원인의 기원을 탐지하기 위해.
• 미세스케일 네트워크에 비해 거시스케일 네트워크가 더 높은 효과적 정보(EI)를 나타내어 원인의 기원이 발생할 수 있음을 입증하기 위해.
• 특히 계산적으로 어려운 중간스케일 영역에서 대규모 네트워크의 정보적인 고차원 스케일을 식별할 수 있는 확장 가능한 방법을 개발하기 위해.
• 네트워크 과학 분야에서 원인의 기원 탐지에 사용할 수 있도록 스펙트럴 클러스터링 방법의 공개 구현을 제공하기 위해.

제안 방법

• 네트워크의 인접 행렬에 대한 스펙트럴 분해를 통해 노드의 자연스러운 군집화를 통해 거시노드를 식별한다.
• 정규화된 라플라시안 행렬의 고유벡터를 기반으로 한 수정된 스펙트럴 클러스터링 알고리즘을 적용하여 미세노드를 거시노드로 분할한다.
• 각 스케일에 대해 효과적 정보(EI) 지표를 계산한다: $EI = H(\langle W^{out}_i \rangle) - \langle H(W^{out}_i) \rangle$, 이는 무작위 보행자 전이의 결정론성을 측정한다.
• 원인의 기원은 거시스케일에서의 EI 증가량으로 정의된다: $EI(G_M) - EI(G)$.
• EI를 최대화하는 분할 방식을 찾기 위해 다수의 분할을 평가하며, 성능은 탐욕적 및 경사 하강법 기준선과 비교된다.
• 이 방법은 github.com/jkbren/einet 에서 공개된 파이썬 패키지로 구현되어 재현성과 광범위한 활용을 위해 제공된다.

실험 결과

연구 질문

• RQ1 탐욕적, 경사 하강법, 또는 스펙트럴 클러스터링 중에서 어떤 알고리즘이 선호적 첨착 네트워크에서 정보적인 거시스케일을 가장 효과적으로 식별하는가?
• RQ2 원인의 기원을 탐지하기가 가장 어려운 네트워크 스케일은 어디이며, 그 이유는 무엇인가?
• RQ3 엔트로피율, 글로벌 효율성, 중심성 등의 핵심 네트워크 성질이 스케일 전반에서 어떻게 변화하는가?
• RQ4 기타 방법이 계산적으로 실패하는 대규모 네트워크에서 스펙트럴 클러스터링은 원인의 기원을 신뢰성 있게 탐지할 수 있는가?
• RQ5 거시스케일 표현 방식이 미세스케일 네트워크에 비해 정보 전달 능력과 구조적 결정론성을 얼마나 향상시키는가?

주요 결과

• 스펙트럴 클러스터링은 원인의 기원을 식별하는 데 탐욕적 및 경사 하강법보다 뛰어난 성능을 보였으며, 수개의 주기보다 훨씬 더 빠른 런타임으로 더 높은 EI 값을 달성했다.
• 중간스케일—특히 비균일한 거시노드 크기를 가진 영역—은 정보적인 스케일을 탐지하는 데 있어 가장 계산적으로 도전적인 영역으로 규명되었다.
• 거시스케일 네트워크는 보행자에 대한 엔트로피율이 항상 낮아, 미세스케일 네트워크보다 전이에 대한 불확실성이 감소함을 나타내었다.
• 글로벌 네트워크 효율성이 거시스케일에서 증가하여 네트워크 전반의 정보 전달 능력 향상이 이루어졌음을 시사했다.
• 다양한 중심성 측정치, 특히 중간 중심성(Betweenness)이 거시스케일에서 미세스케일보다 높아, 노드의 구조적 중요성이 향상됨을 나타내었다.
• 스펙트럴 클러스터링 접근법은 실제 단백질 상호작용 네트워크에서도 원인의 기원을 성공적으로 식별하여, 합성 선호적 첨착 네트워크 외에도 적용 가능성을 입증했다.