[논문 리뷰] Attributed Network Embedding for Incomplete Attributed Networks

Chengbin Hou, Shan He외 1명|arXiv (Cornell University)|2018. 11. 28.

Advanced Graph Neural Networks참고 문헌 29인용 수 7

한 줄 요약

이 논문은 결손이 있는 소유 특성 네트워크에서 구조적 정보와 소유 정보를 융합하여 더 높은 밀도의 전이 행렬을 생성함으로써 결손 데이터를 향상시키는 새로운 방법인 소유 특성 편향 랜덤 워크(ABRW)를 제안한다. 이 방법은 여섯 개인 실세계 데이터셋에서 링크 예측 및 노드 분류 성능을 향상시키며, 결손 링크와 소유 정보에 대해 강건함을 입증한다.

ABSTRACT

Attributed networks are ubiquitous since a network often comes with auxiliary attribute information e.g. a social network with user profiles. Attributed Network Embedding (ANE) has recently attracted considerable attention, which aims to learn unified low dimensional node embeddings while preserving both structural and attribute information. The resulting node embeddings can then facilitate various network downstream tasks e.g. link prediction. Although there are several ANE methods, most of them cannot deal with incomplete attributed networks with missing links and/or missing node attributes, which often occur in real-world scenarios. To address this issue, we propose a robust ANE method, the general idea of which is to reconstruct a unified denser network by fusing two sources of information for information enhancement, and then employ a random walks based network embedding method for learning node embeddings. The experiments of link prediction, node classification, visualization, and parameter sensitivity analysis on six real-world datasets validate the effectiveness of our method to incomplete attributed networks.

연구 동기 및 목표

• 링크와 노드 소유 정보가 모두 결손된 소유 특성 네트워크에서 효과적인 노드 임베딩을 학습하는 데 도전한다.
• 결손된 구조적 또는 소유 정보로 인해 데이터가 희박해질 경우 기존의 PNE 및 ANE 방법이 실패하는 한계를 극복한다.
• 구조적 정보와 소유 정보를 동시에 활용하여 더 높은 밀도의 네트워크를 재구성함으로써 임베딩 품질을 향상시키는 통합 프레임워크를 개발한다.
• 인용 네트워크 및 소셜 네트워크를 포함한 다양한 실세계 네트워크에서 결손 정도가 다른 상황에서도 강건함을 확보한다.
• 객체 기반 데이터에 대해 다중 정보 소스를 전이 행렬로 표현할 수 있는 일반화 가능한 방법을 제공한다.

제안 방법

• 랜덤 워크를 사용하여 네트워크 구조에서, 그리고 특성 벡터의 코사인 유사도를 사용하여 노드 소유 정보에서 각각 별도의 전이 행렬을 구성한다.
• 균형 조절 하이퍼파라미터 α를 사용하여 두 전이 행렬을 융합하여 편향된 전이 행렬을 생성한다. 이는 구조적 정보와 소유 정보의 기여도를 조절한다.
• 융합된 전이 행렬 위에서 가중치가 부여된 랜덤 워크를 수행하여 구조적 및 소유 유사성을 모두 유지하는 노드 시퀀스를 생성한다.
• 랜덤 워크 시퀀스를 기반으로 스위프트그램 모델을 훈련시켜 네트워크 구조와 소유 의미를 모두 포착하는 저차원 노드 임베딩을 학습한다.
• 재구성된 더 높은 밀도의 네트워크를 기반으로 임베딩 학습을 수행함으로써 결손 링크와 소유 정보를 정보 융합을 통해 효과적으로 보완한다.
• 정보 유입과 네트워크 밀도를 제어하기 위해 하이퍼파라미터 α(구조와 소유 정보 간 균형)와 top-k(유사도가 높은 소유 정보 이웃 수)를 통합한다.

실험 결과

연구 질문

• RQ1 결손된 구조적 정보와 소유 정보로부터 통합된 더 높은 밀도의 네트워크를 재구성하여 노드 임베딩 품질을 향상시킬 수 있는가?
• RQ2 α로 제어되는 구조적 정보와 소유 정보 간의 균형이 링크 예측 및 노드 분류 성능에 미치는 영향은 어떠한가?
• RQ3 소유 유사도 기반 상위-k 이웃을 유지할 경우, 희박한 네트워크에서 임베딩의 강건성은 어느 정도 향상되는가?
• RQ4 ABRW는 기존의 PNE 및 ANE 방법과 비교하여 결손이 있는 소유 특성 네트워크에서 하류 작업 성능 측면에서 어떻게 성능을 냈는가?
• RQ5 제안된 방법은 인용 네트워크와 소셜 네트워크 등 서로 다른 유형의 네트워크에 대해 다양한 수준의 결손이 있는 상황에서도 일반화 가능한가?

주요 결과

• ABRW는 링크 예측에서 여섯 개인 실세계 데이터셋(결손 링크와 소유 정보가 있는 인용 및 소셜 네트워크 포함)에서 최신 기준 성능을 달성한다.
• 인용 네트워크에서는 다양한 α 값에서도 유사한 성능을 보이며, 이는 구조적 정보와 소유 정보가 각각 정보가 충분히 유용하다는 것을 시사한다.
• 소셜 네트워크에서는 더 높은 α(더 많은 구조적 정보 강조)가 더 좋은 결과를 낸다. 이는 소유 정보가 희박하게 제공될 경우 구조적 정보가 더 신뢰할 수 있기 때문이다.
• 소셜 네트워크에서는 상대적으로 더 풍부한 구조적 연결성이 있기 때문에 top-k 하이퍼파라미터가 성능에 미치는 영향이 미미하다.
• 민감도 분석 결과, 구조적 데이터가 풍부할 경우 ABRW가 하이퍼파라미터 선택에 대해 강건함을 확인하였다.
• 결손 네트워크에서 기준 PNE 및 ANE 모델보다 ABRW가 우수한 성능을 보이며, 정보 융합을 통한 결손 데이터 보완 능력이 효과적임을 입증하였다.