[논문 리뷰] Deep Adversarial Network Alignment

Tyler Derr, Hamid Reza Karimi외 3명|arXiv (Cornell University)|2019. 02. 27.

Advanced Graph Neural Networks참고 문헌 19인용 수 14

한 줄 요약

이 논문은 깊이 있는 적대적 학습을 사용하여 두 네트워크 간의 노드 임베딩을 정렬하는 새로운 비지도 프레임워크인 Deep Adversarial Network Alignment (DANA)를 제안한다. 이는 임베딩의 기저 분포를 매칭한 후 효율적인 최근접 이웃 기반 노드 정렬을 수행한다. DANA는 실제 및 합성 데이터셋에서 기존 방법들을 능가하며, 비트코인 네트워크 변형에서 각각 54.2%와 51.1%의 정확도를 기록하여 시드 노드나 보조 정보 없이도 뛰어난 성능을 보였다.

ABSTRACT

Network alignment, in general, seeks to discover the hidden underlying correspondence between nodes across two (or more) networks when given their network structure. However, most existing network alignment methods have added assumptions of additional constraints to guide the alignment, such as having a set of seed node-node correspondences across the networks or the existence of side-information. Instead, we seek to develop a general network alignment algorithm that makes no additional assumptions. Recently, network embedding has proven effective in many network analysis tasks, but embeddings of different networks are not aligned. Thus, we present our Deep Adversarial Network Alignment (DANA) framework that first uses deep adversarial learning to discover complex mappings for aligning the embedding distributions of the two networks. Then, using our learned mapping functions, DANA performs an efficient nearest neighbor node alignment. We perform experiments on real world datasets to show the effectiveness of our framework for first aligning the graph embedding distributions and then discovering node alignments that outperform existing methods.

연구 동기 및 목표

• 추가 제약 조건인 시드 노드나 보조 정보에 의존하지 않는 일반적이고 비지도 네트워크 정렬 방법을 개발하는 것.
• 일반적으로 별도로 학습되기 때문에 표현 공간에서 정렬되어 있지 않은 두 개의 별개 네트워크에서의 노드 임베딩을 정렬하는 과제를 해결하는 것.
• 적대적 학습을 통해 두 네트워크의 전반적인 임베딩 분포를 사전에 정렬하여 노드 정렬 성능을 향상시키는 것.
• 임베딩 분포 정렬의 효과를 검증할 수 있는 비지도 모델 선택 히우리스틱을 제공하는 것.
• 딥 적대적 학습이 감독 없이 노이즈가 있는 환경에서도 복잡한 네트워크 구조를 효과적으로 정렬할 수 있음을 보여주는 것.

제안 방법

• DANA는 두 단계 프레임워크를 사용한다: 먼저, 한 네트워크의 임베딩 공간에서 다른 네트워크의 임베딩 공간으로의 깊이 있는 매핑을 학습하기 위해 생성적 적대적 네트워크(GAN)를 사용하여 분포의 차이를 최소화한다.
• 생성자 네트워크는 한 네트워크의 임베딩을 변형하여 대상 네트워크의 임베딩 분포와 일치시키며, 판별자 네트워크는 진짜 임베딩과 생성된 임베딩을 구분한다.
• 적대적 학습 과정을 통해 생성된 임베딩가 진짜 대상 네트워크의 임베딩와 구분되지 않게 되어, 두 임베딩 분포가 효과적으로 정렬된다.
• 분포 정렬 이후, 코사인 유사도 또는 기타 거리 측정법을 사용하여 공통된 임베딩 공간에서 효율적인 최근접 이웃 기반 노드 정렬을 수행한다.
• 판별자의 성능과 학습된 매핑의 안정성에 기반한 비지도 히우리스틱을 도입하여 모델 선택을 수행한다.
• 손실 함수를 최적화하여 적대적 목표를 최소화하고 정렬 품질을 극대화하는 방식으로, 확률적 경사 하강법을 사용해 엔드 투 엔드로 프레임워크를 훈련시킨다.

실험 결과

연구 질문

• RQ1 딥 적대적 학습이 추가 제약 조건 없이 독립적으로 학습된 두 네트워크의 임베딩 분포를 효과적으로 정렬할 수 있는가?
• RQ2 전반적인 임베딩 분포 정렬이 기존 비지도 방법 대비 하류의 노드 정렬 성능을 향상시키는가?
• RQ3 실세계 네트워크에서 간선 제거와 같은 구조적 노이즈에 대해 제안된 DANA 프레임워크는 얼마나 강건한가?
• RQ4 보조 정보나 시드 쌍을 사용하지 않고도 REGAL-s2v, NetAlignBP, IsoRank와 같은 최첨단 방법을 초월할 수 있는가?
• RQ5 정답 정렬이 없는 상황에서 하이퍼파rameter 선택을 위한 신뢰할 수 있는 비지도 방법이 존재하는가?

주요 결과

• DANA는 BitcoinA 및 BitcoinO 데이터셋 쌍에서 54.2%의 정확도를 기록하여, 이어지는 최고의 베이스라인인 REGAL-s2v(12.4%)를 크게 앞서갔다.
• BitcoinAn 및 BitcoinOn 쌍에서 DANA는 51.1%의 정확도를 기록했으며, 이는 NetAlignBP(14.1%) 및 SparseIsoRank(4.7%)를 포함한 모든 다른 베이스라인을 압도했다.
• 가짜 정답 데이터셋(CollegeMsg, Hamsterster, Blogs) 실험에서 DANA는 20% 간선 제거 노이즈 조건에서도 강력한 성능 유지를 보였고, 모든 베이스라인은 이 노이즈 수준에서 거의 완전히 실패했다.
• 결과는 DANA가 임베딩 분포 정렬을 위해 딥 적대적 학습을 사용할 경우 얕은 또는 스펙트럼 기반 방법보다 더 강건하고 정확한 노드 정렬을 가능하게 한다는 것을 시사한다.
• 비지도 모델 선택 히우리스틱은 최적의 설정을 효과적으로 식별했으며, 임베딩 분포 정렬이 성능 향상의 핵심 요소임을 검증했다.
• DANA의 성능 우월성은 고급 네트워크 임베딩 방법과 적대적 학습을 조합할 경우 전통적인 스펙트럼 또는 행렬 분해 기반 정렬 기법을 크게 능가할 수 있음을 보여준다.