[논문 리뷰] Multi-view Graph Convolutional Networks with Differentiable Node Selection

Zhaoliang Chen, Lele Fu외 4명|arXiv (Cornell University)|2022. 12. 09.

Advanced Graph Neural Networks인용 수 4

한 줄 요약

이 논문은 다중 시각 데이터로부터 강력하고 적응적인 그래프 구조를 학습하여 준지도 학습 분류 성능을 햖थ시키기 위해 가중치 학습이 가능한 노드 선택 기반의 다중 시각 그래프 컬러션 네트워크(MGCN-DNS)를 제안한다. 가중치 학습이 가능한 노드 선택 메커니즘과 적응적인 그래프 융합을 통합함으로써, 노이즈 간섭을 줄이고 특징 표현을 향상시켜 기준 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Multi-view data containing complementary and consensus information can facilitate representation learning by exploiting the intact integration of multi-view features. Because most objects in real world often have underlying connections, organizing multi-view data as heterogeneous graphs is beneficial to extracting latent information among different objects. Due to the powerful capability to gather information of neighborhood nodes, in this paper, we apply Graph Convolutional Network (GCN) to cope with heterogeneous-graph data originating from multi-view data, which is still under-explored in the field of GCN. In order to improve the quality of network topology and alleviate the interference of noises yielded by graph fusion, some methods undertake sorting operations before the graph convolution procedure. These GCN-based methods generally sort and select the most confident neighborhood nodes for each vertex, such as picking the top-k nodes according to pre-defined confidence values. Nonetheless, this is problematic due to the non-differentiable sorting operators and inflexible graph embedding learning, which may result in blocked gradient computations and undesired performance. To cope with these issues, we propose a joint framework dubbed Multi-view Graph Convolutional Network with Differentiable Node Selection (MGCN-DNS), which is constituted of an adaptive graph fusion layer, a graph learning module and a differentiable node selection schema. MGCN-DNS accepts multi-channel graph-structural data as inputs and aims to learn more robust graph fusion through a differentiable neural network. The effectiveness of the proposed method is verified by rigorous comparisons with considerable state-of-the-art approaches in terms of multi-view semi-supervised classification tasks.

연구 동기 및 목표

• GCN 기반의 다중 시각 학습에서 비가역적인 정렬(예: top-k 노드 선택)으로 인한 기울기 흐름 차단 및 모델 최적화의 한계를 해결하기 위해.
• 다양한 시각 데이터에서 적응적이고 가중치 학습이 가능한 노드 선택 및 그래프 융합을 통해 그래프 구조 품질을 향상시키고 노이즈 간섭을 감소시키기 위해.
• 다중 채널 그래프 구조 데이터를 가중치 학습이 가능한 종단 간(end-to-end) 학습 가능한 아키텍처를 통해 통합하는 공동 프레임워크를 개발하기 위해.
• 적응적 융합과 희소화를 통해 다중 시각 준지도 학습 분류 과제에서 강력하고 일반화 가능한 그래프 임bedding 학습을 가능하게 하기 위해.
• 고정된 k-이웃 선택의 경직됨을 해결하기 위해, backpropagation를 지원하는 학습 가능한 연속적 선택 메커니즘을 도입하기 위해.

제안 방법

• 프레임워크는 뷰별로 특화된 주의 가중치(α)를 학습하여 다수의 KNN 기반 그래프를 통합된 그래프로 융합하는 이중 단계의 적응적 그래프 융합 레이어를 사용한다.
• 비가역적인 top-k 정렬을 대체하기 위해, Gumbel-Softmax 재구성 기법을 활용한 순열 행렬의 연속적 근사(continuous relaxation)를 사용하는 가중치 학습이 가능한 노드 선택 메커니즘이 도입된다.
• 그래프 학습 모듈은 가중치 학습이 가능한 연산을 통해 인접 행렬을 업데이트함으로써 융합된 그래프를 정교화하며, 종단 간 학습이 가능하도록 한다.
• 노드 표현은 선택된 고신뢰도 이웃의 특징을 가중치 학습이 가능한 방식으로 집계하는 그래프 컬러션 레이어를 통해 업데이트된다.
• 모델은 선택 과정의 연속성(소프트함)을 제어하기 위해 학습 가능한 온도 파라미터 τ와 스케일링 인자 γ를 사용한다.
• 전체 아키텍처는 라벨 데이터에 대한 교차 엔트로피 손실을 사용하여 종단 간 학습되며, 가중치 학습이 가능한 선택 및 융합 구성 요소를 통해 역전파가 수행된다.

실험 결과

연구 질문

• RQ1 비가역적인 top-k 선택 대비 가중치 학습이 가능한 노드 선택이 다중 시각 GCN의 최적화 및 성능 향상에 기여하는가?
• RQ2 학습 가능한 주의 가중치를 갖는 적응적 그래프 융합은 다중 시각 준지도 학습 분류에서 표현 학습을 어떻게 향상시키는가?
• RQ3 제안된 방법은 이질적인 시각에서 유래한 노이즈 간섭을 어느 정도 감소시키는가?
• RQ4 가중치 학습이 가능한 선택 메커니즘의 하이퍼파rameter γ와 τ에 대한 모델 성능의 민감도는 어떠한가?
• RQ5 이 프레임워크는 표준 다중 시각 기준 데이터셋에서 최신 기술 수준의 성능을 달성할 수 있는가?

주요 결과

• MGCN-DNS는 Caltech-20, NUS-WIDE, Youtube 등 다양한 기준 다중 시각 데이터셋에서 최신 기술 수준의 성능을 달성하며, 기존의 GCN 기반 및 다중 시각 학습 방법들을 능가한다.
• 모델은 하이퍼파ram터 설정에 대해 뛰어난 강건성 보이며, τ > 0.4 이며 γ가 충분히 클 경우 최적의 성능를 기록함으로써 안정적인 최적화를 나타낸다.
• 민감도 분석 결과, 작은 τ 값(<0.3)은 특히 BBCnews에서 소프트 순열 행렬이 딱딱한 형태로 붕괴되면서 성능을 심각하게 떨어뜨리는 것으로 확인되었다.
• 시각화 결과, 모델이 의미 있는 주의 가중치(α)를 학습함을 확인하였으며, 상호 보완적인 정보를 제공하는 뷰에 더 높은 중요도를 할당하고, 정보가 적은 뷰에는 낮은 가중치를 할당함을 보였다.
• 학습 손실은 빠르게 감소하며 200 반복 이내에 수렴함을 확인하였으며, 이는 높은 학습 효율성을 나타내지만, 과도한 학습 시 테스트 정확도가 정체되거나 감소함으로써 과적합 위험이 있음을 시사한다.
• 가중치 학습이 가능한 노드 선택 메커니즘은 효과적인 역전파와 종단 간 최적화를 가능하게 하여 이전 방법에서 발생하던 이산적 정렬에 의한 기울기 차단 문제를 해결한다.