[논문 리뷰] Dynamic Network Embedding Survey

Guotong Xue, Ming Zhong외 4명|arXiv (Cornell University)|2021. 03. 29.

Advanced Graph Neural Networks참고 문헌 4인용 수 14

한 줄 요약

이 종합 검토는 동적 네트워크 임bedding 방법에 대한 포괄적인 개요를 제공하며, 이는 이산 및 연속 데이터 모델 하에 구조적 우선과 시간적 우선 접근 방식으로 분류된다. 새로운 분류 체계를 제안하고, 샘플 외 노드 처리 및 시간적 일반화와 같은 핵심 과제를 분석하며, 이질적 네트워크, 확장 가능한 모델링, 작업 지향 학습과 같은 향후 연구 방향을 규명한다.

ABSTRACT

Since many real world networks are evolving over time, such as social networks and user-item networks, there are increasing research efforts on dynamic network embedding in recent years. They learn node representations from a sequence of evolving graphs but not only the latest network, for preserving both structural and temporal information from the dynamic networks. Due to the lack of comprehensive investigation of them, we give a survey of dynamic network embedding in this paper. Our survey inspects the data model, representation learning technique, evaluation and application of current related works and derives common patterns from them. Specifically, we present two basic data models, namely, discrete model and continuous model for dynamic networks. Correspondingly, we summarize two major categories of dynamic network embedding techniques, namely, structural-first and temporal-first that are adopted by most related works. Then we build a taxonomy that refines the category hierarchy by typical learning models. The popular experimental data sets and applications are also summarized. Lastly, we have a discussion of several distinct research topics in dynamic network embedding.

연구 동기 및 목표

• 기존 문헌의 격차를 보완하면서 동적 네트워크 임베딩 방법에 대한 체계적인 종합 검토를 제공하기 위해.
• 데이터 모델과 학습 방법론을 기반으로 한 새로운 분류 체계를 사용하여 기존 접근 방식을 분류하기 위해.
• 샘플 외 노드 표현 및 미래 네트워크 상태 예측과 같은 과제를 분석하기 위해.
• 기준 데이터셋, 오픈소스 구현 및 실세계 응용을 요약하기 위해.
• 동적 네트워크 표현 학습 분야에서의 새로운 연구 방향을 규명하고 논의하기 위해.

제안 방법

• 동적 네트워크 임베딩 방법을 이산(스냅샷 기반) 및 연속(시간 연속) 모델이라는 두 가지 데이터 모델으로 분류하기 위해.
• 구조적 우선 및 시간적 우선 카테고리로 나누어지는 계층적 분류 체계를 제안하며, 이를 바탕으로 한 학습 모델에 따라 더욱 정교화하기 위해.
• 변화하는 구조와 노드 속성을 포착하기 위해 RNN 기반, GCN 기반 및 결합된 시간적 모델을 포함한 표현 학습 기법을 분석하기 위해.
• 동적 네트워크 임베딩 연구에서 사용되는 평가 프로토콜과 기준 데이터셋을 검토하기 위해.
• 오픈소스 구현 및 추천, 사기 탐지, 교통 예측과 같은 실세계 응용을 검토하기 위해.
• 주요 과제와 향후 연구 방향을 규명하기 위해, 확장성, 이질성, 모델 해석 가능성 등을 포함한다.

실험 결과

연구 질문

• RQ1 이산 및 연속 데이터 모델은 동적 네트워크를 어떻게 다르게 표현하며, 각각의 장점은 무엇인가요?
• RQ2 구조적 우선 및 시간적 우선 동적 네트워크 임베딩 접근 방식의 核심적 차이점은 무엇인가요?
• RQ3 현재의 방법들은 샘플 외 노드를 어떻게 처리하고 미래 네트워크 상태를 예측합니까?
• RQ4 동적 네트워크 임베딩에 가장 효과적인 평가 프로토콜과 기준 데이터셋은 무엇인가요?
• RQ5 동적 네트워크 표현 학습 분야에서의 주요 열린 과제와 유망한 향후 연구 방향은 무엇인가요?

주요 결과

• 이 종합 검토는 두 가지 주요 데이터 모델—이산 및 연속 모델—을 식별하며, 각각 다른 종류의 동적 네트워크 임베딩 기법의 기초를 형성한다.
• 구조적 우선 및 시간적 우선 접근 방식은 두 주요 방법론적 범주를 나타내며, 후자는 구조적 유지 보존을 우선시하고, 전자는 시간적 동역학을 강조한다.
• 많은 기존 방법들이 노드 또는 간선의 삭제를 처리하지 못함으로써 일반적인 구조적 변화 모델링의 격차를 드러낸다.
• DyHNE, EvolveGCN, JODIE, DynamicGEM 등의 주요 모델에 대해 오픈소스 구현이 가능하여 재현성과 기준 테스트를 촉진한다.
• 응용 분야는 추천 시스템, 사기 탐지, 교통 예측을 포함하며, 동적 임베딩의 실용적 유용성을 보여준다.
• 향후 연구는 이질적 네트워크, 확장 가능한 모델링, 작업 지향 학습, 모델 해석성 향상에 초점을 맞춰야 한다.