[논문 리뷰] GNNRank: Learning Global Rankings from Pairwise Comparisons via Directed Graph Neural Networks

Yixuan He, Quan Gan외 4명|arXiv (Cornell University)|2022. 02. 01.

Sports Analytics and Performance인용 수 6

한 줄 요약

GNNRank는 방향성 그래프로 모델링된 순서 비교(pairwise comparisons)를 기반으로 전역 순위를 학습하는 새로운 미분 가능한 GNN 프레임워크를 제안한다. 이는 Fiedler 벡터 계산을 인덕티브 바이어스로 통합하여 순위 구조를 포착한다. 또한 순위 최적화 목표를 직접 최적화할 수 있도록 두 가지 새로운 미분 가능한 손실 함수를 도입하여, 다양한 데이터셋에서 뛰어난 일반화 및 전이 성능을 달성한다.

ABSTRACT

Recovering global rankings from pairwise comparisons has wide applications from time synchronization to sports team ranking. Pairwise comparisons corresponding to matches in a competition can be construed as edges in a directed graph (digraph), whose nodes represent e.g. competitors with an unknown rank. In this paper, we introduce neural networks into the ranking recovery problem by proposing the so-called GNNRank, a trainable GNN-based framework with digraph embedding. Moreover, new objectives are devised to encode ranking upsets/violations. The framework involves a ranking score estimation approach, and adds an inductive bias by unfolding the Fiedler vector computation of the graph constructed from a learnable similarity matrix. Experimental results on extensive data sets show that our methods attain competitive and often superior performance against baselines, as well as showing promising transfer ability. Codes and preprocessed data are at: \url{https://github.com/SherylHYX/GNNRank}.

연구 동기 및 목표

• 순서 비교에서 직접 순위 목표를 최적화할 수 있는 엔드 투 엔드로 훈련 가능한 GNN 기반 순위 모델에 대한 기존의 격차를 메우기 위해.
• 이전 연구에서 사용된 조각별 상수 함수(metric)와는 달리, 역전(업셋, upset)을 반영하는 순위 위반을 캡처하는 미분 가능한 손실 함수를 도입하여 효과적인 역전파를 가능하게 하기 위해.
• 깊이 학습 모델에 Fiedler 벡터 계산을 학습 가능한, 미분 가능한 인덕티브 바이어스로 통합하여 잠재적인 순서를 포착하기 위해.
• 유사한 구조적 패턴을 가진 다양한 데이터셋에 대해 잘 일반화되는 단일 모델을 훈련시켜 전이 학습(transfer learning)을 가능하게 하기 위해.
• 제안된 훈련 절차에 대한 이론적 수렴 보장(guarantees)을 제공하여 안정성과 강건성을 확보하기 위해.

제안 방법

• 프레임워크는 순서 비교에서 유도된 방향성 그래프를 구성하며, 노드는 항목을 나타내고, 간선은 상대적 선호도를 나타낸다.
• 학습 가능한 유사도 행렬을 사용하여 그래프 라플라시안을 구축하며, 이의 Fiedler 벡터는 잠재적인 순위 구조를 코딩한다.
• Fiedler 벡터 계산은 프록시미티 경사 하강 단계로 전개되어 GNN 아키텍처에 인덕티브 바이어스로 미분 가능하게 통합된다.
• 두 가지 새로운 미분 가능한 손실 함수를 도입한다: 하나는 순위 위반(업셋)을 최소화하기 위한 것이고, 다른 하나는 순위 품질의 미세한 평가를 위한 것이다.
• 역전파를 사용하여 엔드 투 엔드로 모델을 훈련하며, Fiedler 벡터 계산은 네트워크 전반에 걸쳐 완전히 미분 가능하다.
• 유사한 비교 구조를 가진 새로운 데이터셋에 대해 기존에 훈련된 GNN을 재사용함으로써 전이 학습을 지원한다.

실험 결과

연구 질문

• RQ1 순서 비교에서 직접 순위 목표를 최적화할 수 있도록 미분 가능한 손실 함수를 사용하는 GNN 기반 프레임워크를 설계할 수 있는가?
• RQ2 깊이 학습 모델에 Fiedler 벡터 계산을 어떻게 미분 가능한 인덕티브 바이어스로 통합할 수 있는가?
• RQ3 제안된 방법이 정확도와 강건성 측면에서 기존 최고 수준의 순위 기반 기준보다 뛰어나게 성능을 발휘하는가?
• RQ4 훈련된 GNN 모델이 전이 학습을 통해 새로운 데이터셋에 효과적으로 일반화되는가?
• RQ5 제안된 훈련 절차에 대해 어떤 이론적 수렴 보장(guarantees)을 제공할 수 있는가?

주요 결과

• GNNRank는 농구 및 축구 경기 데이터를 포함한 여러 벤치마크 데이터셋에서 기존 최고 수준의 방법들과 경쟁하거나 슈퍼리어한 순위 정확도를 달성한다.
• 모델는 사전 훈련 후 새로운 데이터셋에 적용되었을 때도 높은 성능을 유지하며 강력한 전이 성능을 보인다.
• 제안된 미분 가능한 손실 함수는 이전 연구에서 평가용으로만 사용된 비미분 가능한 메트릭인 $\mathcal{L}_{upset,naive}$와 달리 효과적인 엔드 투 엔드 훈련을 가능하게 한다.
• Fiedler 벡터 계산을 인덕티브 바이어스로 통합함으로써 잠재적 순서를 효과적으로 캡처함으로써 순위 품질이 크게 향상된다.
• 비용이 많이 드는 최적화 기반 방법인 Minimum Violation Rank(MVR)에 비해 더 낫거나 유사한 渐近 시간 복잡도(asymptotic time complexity)를 보인다.
• 이론적 수렴 보장이 제공되어 훈련 동역학에 대해 새로운 기술적으로 엄밀한 기반을 확립한다.