[논문 리뷰] Learning Graph Neural Networks with Noisy Labels

Hoang Nt, Choong Jun Jin외 1명|arXiv (Cornell University)|2019. 05. 05.

Machine Learning and Data Classification참고 문헌 6인용 수 23

한 줄 요약

이 논문은 손실 보정을 통해 추정된 노이즈 행렬을 활용함으로써 대칭 레이블 노이즈에 대한 강건성을 향상시키는 디노이징 그래프 신경망(D-GNN)을 제안한다. GIN과 GraphSAGE를 노이즈 인식 손실 보정과 결합함으로써, 특히 보정 행렬이 정확하게 추정될 경우 기준 데이터셋에서 노이즈가 있는 학습 조건 하에서도 정확도 향상이 뚜렷하게 이루어진다.

ABSTRACT

We study the robustness to symmetric label noise of GNNs training procedures. By combining the nonlinear neural message-passing models (e.g. Graph Isomorphism Networks, GraphSAGE, etc.) with loss correction methods, we present a noise-tolerant approach for the graph classification task. Our experiments show that test accuracy can be improved under the artificial symmetric noisy setting.

연구 동기 및 목표

• 크라우드소싱 데이터 수집에서 흔한 노이즈 레이블을 가진 대규모 데이터셋에서 그래프 신경망(GNN)을 훈련하는 데 도전하는 것.
• 모든 다른 클래스로 동일한 확률로 레이블이 손상되는 대칭 레이블 노이즈 하에서 GNN의 일반화 성능을 향상시키는 것.
• GIN 및 GraphSAGE와 같은 GNN 아키텍처에 손실 보정 기법을 통합하여 노이즈 내성 훈련 절차를 개발하는 것.
• 실제 그래프 분류 벤치마크에서 다양한 노이즈 행렬 추정 전략—보수적, 앵커 기반, 정확한—의 효과를 평가하는 것.

제안 방법

• 손실 보정을 위해 학습된 보정 행렬 $\mathbf{C}$ 를 사용하여 역방향 손실을 보정함으로써 레이블 노이즈의 영향을 줄인다. 이는 $\ell^{\leftarrow} = \mathbf{C}^{-1} \cdot \ell(\hat{p}(y|\mathcal{G}))$ 로 정의된다.
• 대칭 노이즈 행렬 $\mathbf{N}$ 을 사용하여 레이블 손상 모델링을 수행하며, 각 레이블 $i$ 는 $j \neq i$ 인 경우 동일한 확률 $n$ 으로 $j$ 로 손상된다.
• 세 가지 전략을 통해 보정 행렬 $\mathbf{C}$ 를 추정한다: 보수적 추정(모델 신뢰도 기반), 앵커 기반 추정(청결한 검증 샘플 사용), 정확한 가정(알려진 노이즈 행렬).
• 다중 레이어에서 집합 및 조합 함수를 통한 메시지 전파 프레임워크를 기반으로 GIN에 기반한 구조를 사용한다.
• 실제로 보정 행렬 $\mathbf{C}$ 는 하이퍼파rameter로 간주되며, 강건성을 향상시키기 위해 청결한 검증 세트를 사용하여 튜닝된다.
• 역전파 중 잘못된 레이블이 부여된 샘플의 영향을 줄이기 위해 보정된 기울기를 사용하는 교차 엔트로피 손실을 적용한다.

실험 결과

연구 질문

• RQ1 손실 보정 기법은 그래프 분류 작업에서 대칭 레이블 노이즈 하에서 GNN의 강건성을 향상시킬 수 있는가?
• RQ2 대칭 레이블 노이즈가 증가함에 따라 GNN의 정확도는 어떻게 저하되며, 보정 방법은 이러한 저하를 완화할 수 있는가?
• RQ3 보수적, 앵커 기반, 정확한 세 가지 노이즈 행렬 추정 전략 중 어느 것이 노이즈가 있는 그래프 데이터에서 모델 일반화 성능 향상에 더 효과적인가?
• RQ4 인위적인 대칭 레이블 노이즈가 있는 데이터셋에서 D-GNN 프레임워크는 GIN 및 GraphSAGE와 같은 표준 GNN보다 성능이 뛰어나게 되는가?

주요 결과

• 앵커 기반 노이즈 추정을 사용한 D-GNN(D-GNN-A)는 20% 대칭 레이블 노이즈 하에서 9개 데이터셋 중 7개에서 최신 기술 성능을 달성하였다.
• IMDB-B 데이터셋에서 D-GNN-A는 테스트 정확도를 GIN의 0.6573에서 0.7088로 향상시켜 상대적 향상률 7.8%를 기록하였다.
• 보수적 추정 방법(D-GNN-C)은 모델 예측에 대한 과도한 자신감으로 인해 보정 행렬 추정이 잘못되어 일반화 성능이 열 劣하였다.
• 정확한 노이즈 행렬을 사용한 D-GNN(D-GNN-E)는 뛰어난 성능을 기록하였으며, 정확한 노이즈 추정이 성능 향상에 핵심적임을 시사하였다.
• PROTEINS 데이터셋에서 D-GNN-A는 0.6769의 테스트 정확도를 기록하였고, GIN의 0.6257과 비교해 8.4%의 상대적 향상률을 보였다.
• MUTAG, COLLAB, NCI1와 같은 다양한 그래프 데이터셋에서 일관된 성능 향상을 보였으며, 이는 실세계 생물정보학 데이터에 대한 일반화 가능성의 확인을 의미한다.