[논문 리뷰] Learnable Graph Convolutional Network and Feature Fusion for Multi-view Learning

Zhaoliang Chen, Lele Fu외 4명|arXiv (Cornell University)|2022. 11. 16.

Advanced Computing and Algorithms인용 수 7

한 줄 요약

이 논문은 다중 시각(semi-supervised) 분류를 위한 종량형(end-to-end) 프레임워크인 LGCN-FF를 제안한다. 이 프레임워크는 특징 융합과 학습 가능한 그래프 컬러션 네트워크를 동시에 최적화한다. 희소 오토에코더, 완전 연결 융합 네트워크, 그리고 적응형 인접 행렬 학습을 위한 미분 가능한 수축 활성화(Differentiable Shrinkage Activation, DSA) 함수를 통합함으로써, LGCN-FF는 다양한 벤치마크 데이터셋에서 최신 기법들보다 뛰어난 성능을 달성한다.

ABSTRACT

In practical applications, multi-view data depicting objectives from assorted perspectives can facilitate the accuracy increase of learning algorithms. However, given multi-view data, there is limited work for learning discriminative node relationships and graph information simultaneously via graph convolutional network that has drawn the attention from considerable researchers in recent years. Most of existing methods only consider the weighted sum of adjacency matrices, yet a joint neural network of both feature and graph fusion is still under-explored. To cope with these issues, this paper proposes a joint deep learning framework called Learnable Graph Convolutional Network and Feature Fusion (LGCN-FF), consisting of two stages: feature fusion network and learnable graph convolutional network. The former aims to learn an underlying feature representation from heterogeneous views, while the latter explores a more discriminative graph fusion via learnable weights and a parametric activation function dubbed Differentiable Shrinkage Activation (DSA) function. The proposed LGCN-FF is validated to be superior to various state-of-the-art methods in multi-view semi-supervised classification.

연구 동기 및 목표

• 기존의 다중 시각 학습 기법들이 특징 융합와 그래프 융합를 별도로 처리함으로써 최적의 표현 학습이 어려운 점을 해결한다.
• KNN 기반 그래프 구축에서 노이즈 또는 정확도가 떨어지는 문제를 해결하기 위해 학습 가능한, 미분 가능한 그래프 융합 메커니즘을 도입한다.
• 특징과 그래프 표현을 동시에 최적화함으로써 하류 분류 성능을 향상시키기 위한 통합 학습 전략을 수립한다.
• 학습 중에 인접 행렬을 정밀하게 개선하기 위해 새로운 미분 가능한 수축 활성화(Differentiable Shrinkage Activation, DSA) 함수를 개발한다. 이는 학습된 노드 관계의 강건성과 분류 능력을 향상시킨다.

제안 방법

• 다양한 이질적 시각에서의 저차원 잠재 표현을 추출하기 위해 다수의 희소 오토에코더를 활용한다.
• 모든 시각의 특징을 통합하여 통합된 공유 표현을 생성하기 위해 완전 연결 네트워크를 사용한다.
• 각 시각의 특징에서 KNN 기반 유사도 계산을 통해 다수의 초기 그래프를 구축한다.
• 학습 가능한 가중치 합을 이용해 다수의 그래프를 융합하며, 이때 어텐션 유사 가중치를 종량형으로 최적화한다.
• 학습 가능한, 미분 가능한 활성화 함수인 미분 가능한 수축 활성화(Differentiable Shrinkage Activation, DSA) 함수를 도입하여 융합된 인접 행렬을 정밀하게 개선한다. 이는 희소성과 강건성을 증진시킨다.
• 특징 복원, 융합 일致성, 그래프 컬러션 네트워크 분류 손실의 세 가지 손실 구성 요소를 포함한 다단계 최적화 전략을 사용해 전체 프레임워크를 학습한다.

실험 결과

연구 질문

• RQ1 특징 융합와 그래프 융합를 동시에 최적화하는 것이 순차적 또는 독립적인 처리 방식보다 다중 시각(semi-supervised) 분류 성능 향상에 기여하는가?
• RQ2 제안된 미분 가능한 수축 활성화(Differentiable Shrinkage Activation, DSA) 함수가 인접 행렬을 정밀하게 개선하고 그래프 표현의 강건성을 향상시키는 데 얼마나 효과적인가?
• RQ3 특징 융합 및 그래프 융합 구성 요소를 종량형으로 학습시키는 것이 기존 최신 기법들보다 더 나은 일반화 성능과 낮은 분류 오차를 제공하는가?
• RQ4 제안된 프레임워크는 KNN 기반 그래프 구축에서 노이즈 또는 잘못된 간선의 영향을 어느 정도 감소시키는가?

주요 결과

• LGCN-FF 프레임워크는 평가된 모든 다중 시각(semi-supervised) 분류 벤치마크에서 최신 기법들을 능가하는 뛰어난 성능을 달성한다.
• 교차 엔트로피 손실($\mathcal{L}_{lgcn}$)의 수렴이 안정적이며, 모든 데이터셋에서 500 반복 이내에 최소값에 도달함으로써 효과적이고 신뢰할 수 있는 학습이 이루어짐을 시사한다.
• 특징 융합 구성 요소의 손실($\mathcal{L}_{fc}$)은 약 100 반복 이후에著명하게 감소함을 확인하여, 오토에코더 임베딩이 안정화된 후 융합 네트워크가 의미 있는 표현을 학습함을 나타낸다.
• DSA 함수는 인접 행렬의 적응적 개선을 가능하게 하였으며, ALOI, BBCnews, BBCsports, MNIST 데이터셋에서 뚜렷한 성능 향상이 관찰되었고, 손실 곡선에서 동기화된 감소가 나타났다.
• 노이즈가 많은 그래프 구조에 대해서도 프레임워크는 강건성을 보였으며, 초기 학습 단계의 변동에도 불구하고 $\mathcal{L}_{lgcn}$의 수렴이 안정적으로 유지됨을 입증하였다.
• 통합 학습 전략 덕분에 특징 융합 네트워크는 그래프 학습 구성 요소로부터 피드백을 받아 공유 임베딩을 반복적으로 개선함으로써, 더 높은 하류 분류 정확도를 달성할 수 있었다.