[논문 리뷰] DIG: A Turnkey Library for Diving into Graph Deep Learning Research

Meng Liu, Youzhi Luo외 14명|arXiv (Cornell University)|2021. 03. 23.

Advanced Graph Neural Networks참고 문헌 56인용 수 57

한 줄 요약

DIG는 그래프 생성, 자기지도 학습, 설명가능성, 및 3D 그래프를 위한 통합 데이터 인터페이스, 알고리즘, 지표를 제공하는 턴키 파이썬 라이브러리로, 그래프 딥러닝 연구 및 벤치마킹을 촉진합니다.

ABSTRACT

Although there exist several libraries for deep learning on graphs, they are aiming at implementing basic operations for graph deep learning. In the research community, implementing and benchmarking various advanced tasks are still painful and time-consuming with existing libraries. To facilitate graph deep learning research, we introduce DIG: Dive into Graphs, a turnkey library that provides a unified testbed for higher level, research-oriented graph deep learning tasks. Currently, we consider graph generation, self-supervised learning on graphs, explainability of graph neural networks, and deep learning on 3D graphs. For each direction, we provide unified implementations of data interfaces, common algorithms, and evaluation metrics. Altogether, DIG is an extensible, open-source, and turnkey library for researchers to develop new methods and effortlessly compare with common baselines using widely used datasets and evaluation metrics. Source code is available at https://github.com/divelab/DIG.

연구 동기 및 목표

• 기본 노드/그래프 분류를 넘어선 고급 그래프 DL 작업의 구현 및 벤치마킹에서의 어려움을 해결한다.
• 그래프 생성, 자기지도 학습, 설명가능성 및 3D 그래프 학습을 위한 통합되고 확장 가능한 테스트베드를 제공한다.
• 쉽게 방법을 개발하고 비교할 수 있도록 표준화된 데이터 인터페이스, 알고리즘, 평가 지표를 제공한다.
• 널리 사용되는 데이터셋과 지표를 활용한 커뮤니티 기여와 용이한 확장을 장려한다.

제안 방법

• 방향별 데이터 인터페이스, 공통 알고리즘, 그리고 평가 지표를 위한 통합 API.
• 그래프 및 분자 연산을 지원하기 위한 PyTorch, PyG, 및 RDKit와의 통합.
• 그래프에서의 그래프 생성, 그래프에서의 자기지도 학습, 설명가능성, 및 3D 그래프 학습의 네 가지 연구 방향 구현.
• QM9, ZINC250k, MOSES, TUDataset 등 널리 사용되는 데이터셋과 표준 평가 지표를 지원.
• 새로운 데이터셋, 알고리즘 및 지표를 쉽게 추가할 수 있는 확장 가능하고 모듈식 설계.
• 지속적 통합과 문서를 통한 품질 보증.
• GNU GPLv3 라이선스 하에 오픈 소스.

실험 결과

연구 질문

• RQ1 단일화되고 확장 가능한 테스트베드가 여러 연구 방향에 걸친 그래프 DL 방법의 개발 및 벤치마킹을 어떻게 가속화할 수 있는가?
• RQ2 연구자들이 DIG를 쉽게 채택하여 그래프 생성, 자기지도 학습, 설명가능성, 및 3D 그래프에 대한 실험을 구현, 비교, 재현할 수 있는가?
• RQ3 그래프 딥러닝에서 새로운 데이터셋, 알고리즘 및 지표의 원활한 확장을 가능하게 하는 설계 원칙은 무엇인가?
• RQ4 통합 인터페이스와 벤치마크가 그래프 DL 커뮤니티에서 널리 사용되는 데이터셋과 평가 관행에 얼마나 잘 부합하는가?

주요 결과

• DIG는 그래프 생성, 자기지도 학습, 설명가능성 및 3D 그래프를 위한 데이터 인터페이스, 공통 알고리즘, 평가 지표의 통합적이고 확장 가능한 구현을 제공한다.
• 이 라이브러리는 네 가지 방향에 걸쳐 18개의 알고리즘을 포함하며, 그래프 및 분자 연산을 위해 Python, PyTorch, PyG, RDKit를 활용한다.
• DIG는 지속적 통합, 온라인 문서화, GPLv3 라이선스로 커뮤니티 기여를 촉진하며 재현성과 품질을 강조한다.
• 벤치마크 및 벤치마크 예제가 제공되어 보고된 결과를 합리적 차이 내에서 재현할 수 있다.
• DIG는 널리 사용되는 데이터셋과 지표에서 새로운 방법을 구현하고 기준선과의 경험적 비교를 수행하는 턴키 플랫폼으로 작동한다.