[논문 리뷰] Unsupervised Adversarial Graph Alignment with Graph Embedding

Chaoqi Chen, Weiping Xie외 6명|arXiv (Cornell University)|2019. 07. 01.

Advanced Graph Neural Networks참고 문헌 34인용 수 5

한 줄 요약

이 논문은 앵커 링크나 노드 속성 없이 그래프 임베딩과 적대적 훈련을 사용하여 완전히 비지도 방식으로 두 그래프를 정렬하는 새로운 프레임워크인 비지도 적대적 그래프 정렬(UAGA)을 제안한다. UAGA는 비지도 그래프 정렬에서 최고 성능을 달성하며, 초기화된 가짜 레이블링을 통한 iUAGA에서 추가로 향상된다.

ABSTRACT

Graph alignment, also known as network alignment, is a fundamental task in social network analysis. Many recent works have relied on partially labeled cross-graph node correspondences, i.e., anchor links. However, due to the privacy and security issue, the manual labeling of anchor links for diverse scenarios may be prohibitive. Aligning two graphs without any anchor links is a crucial and challenging task. In this paper, we propose an Unsupervised Adversarial Graph Alignment (UAGA) framework to learn a cross-graph alignment between two embedding spaces of different graphs in a fully unsupervised fashion (\emph{i.e.,} no existing anchor links and no users' personal profile or attribute information is available). The proposed framework learns the embedding spaces of each graph, and then attempts to align the two spaces via adversarial training, followed by a refinement procedure. We further extend our UAGA method to incremental UAGA (iUAGA) that iteratively reveals the unobserved user links based on the pseudo anchor links. This can be used to further improve both the embedding quality and the alignment accuracy. Moreover, the proposed methods will benefit some real-world applications, \emph{e.g.,} link prediction in social networks. Comprehensive experiments on real-world data demonstrate the effectiveness of our proposed approaches UAGA and iUAGA for unsupervised graph alignment.

연구 동기 및 목표

• 라벨된 노드 대응 관계나 사용자 속성이 없는 상황에서 그래프 정렬의 과제를 해결하기 위해.
• 두 그래프의 구조적 정보만을 활용하는 완전히 비지도 방법을 개발하기 위해.
• 적대적 훈련과 반복적 개선을 통해 정렬 정확도와 임베딩 품질을 향상시키기 위해.
• 진행적으로 고신뢰도 가짜 앵커 링크를 노출하는 점진적 설정(iUAGA)으로 프레임워크를 확장하기 위해.
• 더 나은 성능을 발휘하는 링크 예측과 같은 후행 응용 프로그램을 가능하게 하기 위해.

제안 방법

• 먼저, 소스 및 타겟 그래프에서 독립적으로 비지도 그래프 임베딩을 적용하여 노드 표현을 학습한다.
• 그런 다음, 소스 임베딩 공간에서 타겟 공간으로의 선형 매핑을 최소한의 분포 차이를 기반으로 학습하기 위해 적대적 훈련을 사용한다.
• 공유된 임베딩 공간을 사용하여 정렬을 최적화하기 위해 닫힌 형식의 프로크루스테스 해법을 적용하는 개선 단계를 수행한다.
• 이 방법은 iUAGA로 확장되며, 고신뢰도 가짜 앵커 링크를 반복적으로 식별하고 추가하여 임베딩와 정렬을 개선한다.
• 프레임워크는 노드 속성이나 수동으로 레이블링된 대응 관계가 전혀 필요 없이 그래프의 위상 정보에만 의존한다.
• t-SNE 시각화를 통해 정렬 후 도메인 불변 표현이 성립하는 것을 확인한다.

실험 결과

연구 질문

• RQ1 라벨된 앵커 링크나 노드 속성이 전혀 없이 그래프 정렬을 효과적으로 수행할 수 있는가?
• RQ2 감독 없이 임베딩 공간 간의 적대적 훈련이 교차 그래프 정렬을 향상시킬 수 있는가?
• RQ3 관측되지 않은 링크에 대한 반복적 가짜 레이블링이 임베딩 품질과 정렬 정확도를 향상시킬 수 있는가?
• RQ4 제안된 방법은 지도 학습 기반 기준과 비교해 정렬 성능에서 어떤가?
• RQ5 이 프레임워크는 링크 예측과 같은 후행 작업에서 얼마나 향상되는가?

주요 결과

• UAGA는 실제 세계 데이터셋에서 기존의 비지도 기준보다 뛰어난 성능을 달성하며 비지도 그래프 정렬에서 최고 성능을 기록한다.
• S4에서 Adv-Refine-CGSS는 정밀도@10에서 Degree보다 0.298 높게 나타나, 어떤 레이블 데이터 없이도 강력한 정렬 능력을 보여준다.
• iUAGA-S는 링크 예측에서 정밀도@500을 0.541에서 0.923으로, 정밀도@1000을 0.356에서 0.857로 향상시켜 뚜렷한 후행 성능 향상을 보였다.
• t-SNE 시각화 결과 UAGA가 소스 및 타겟 그래프 간의 특징 차이를 줄여 더 도메인 불변 임베딩을 생성함을 확인했다.
• 교차 그래프 레이블 데이터가 전혀 필요 없음에도 불구하고, 지도 학습 방법과 비교해 유사하거나 더 뛰어난 성능을 달성했다.
• 정밀도@1은 간선 겹침 비율과 단조롭게 증가하지 않아, 구조적 유사성과 정렬 난이도 사이의 상충 관계를 보여준다.