[논문 리뷰] Representation Learning for Dynamic Graphs: A Survey

Seyed Mehran Kazemi, Rishab Goel외 5명|arXiv (Cornell University)|2019. 05. 27.

Advanced Graph Neural Networks참고 문헌 250인용 수 69

한 줄 요약

신경망 표현 학습 기술의 동적 그래프에 대한 포괄적 고찰로, 인코더–디코더 프레임워크를 중심으로 이산/연속 시간 역학, KG/HIN 설정 및 응용을 다룬다. 모델, 표현력, 데이터셋, 작업 및 미해결 연구 방향을 논의한다.

ABSTRACT

Graphs arise naturally in many real-world applications including social networks, recommender systems, ontologies, biology, and computational finance. Traditionally, machine learning models for graphs have been mostly designed for static graphs. However, many applications involve evolving graphs. This introduces important challenges for learning and inference since nodes, attributes, and edges change over time. In this survey, we review the recent advances in representation learning for dynamic graphs, including dynamic knowledge graphs. We describe existing models from an encoder-decoder perspective, categorize these encoders and decoders based on the techniques they employ, and analyze the approaches in each category. We also review several prominent applications and widely used datasets and highlight directions for future research.

연구 동기 및 목표

• 동적 그래프에서 표현 학습의 도전 과제와 동기에 대해 설명한다.
• 연속 시간 및 이산 시간으로 구분되는 동적-그래프 모델에 대한 인코더–디코더 분류 체계를 제시한다.
• 동적 그래프를 위한 인코더와 디코더, 그 표현력과 학습 패러다임을 조사한다.
• 향후 연구를 안내하기 위해 일반적인 작업, 데이터셋, 응용 및 개방 문제를 강조한다.

제안 방법

• 연속 시간과 이산 시간의 동적 그래프 형식화와 예측 작업을 정의한다.
• 동적-그래프 모델을 분류하기 위한 인코더–디코더 프레임워크를 제시한다.
• 순차 모델, 어텐션, 시간 점 프로세스를 포함한 시계열 인코딩/디코딩 기법을 조사한다.
• 동적-그래프 모델과 KG/ HIN 확장의 표현성 개념을 논의한다.
• 데이터셋과 응용을 검토하고 개방 문제와 향후 방향을 개략한다.

실험 결과

연구 질문

• RQ1 동적 그래프에 사용되는 주요 인코더 및 디코더 기법은 무엇이며 어떻게 분류되는가?
• RQ2 스트리밍 시나리오를 포함한 보간 및 외삽 작업을 동적 그래프가 어떻게 처리하는가?
• RQ3 동적 그래프 표현 학습의 핵심 데이터셋, 응용 및 미해결 도전과제는 무엇인가?
• RQ4 KG 및 이질 정보 네트워크를 포함한 동적-그래프 모델의 표현력이 어떻게 정의되고 분석되는가?

주요 결과

• 본 고서는 연속 시간 및 이산 시간 정의를 통해 동적 그래프를 형식화하고 노드/에지/그래프 분류와 같은 예측 작업을 명확히 한다.
• 인코더–디코더 관점이 시간에 따른 동적-그래프 모델과 임베딩을 체계화하는 데 사용된다.
• 주요 기법으로 시계열 인코딩 방법, 시퀀스 모델, 어텐션 메커니즘, 시간 점 프로세스를 다룬다.
• 모델 표현성, 노드/에지/그래프 예측 작업에 대한 전체 표현성 개념을 논의한다.
• 응용, 데이터셋 및 개방 연구 방향을 요약하여 동적 그래프 표현 학습의 미래 연구를 안내한다.