[논문 리뷰] Regional based query in graph active learning

Roy Abel, Yoram Louzoun|arXiv (Cornell University)|2019. 06. 20.

Advanced Graph Neural Networks참고 문헌 42인용 수 6

한 줄 요약

이 논문은 그래프 컬러레이션 네트워크(GCNs)를 위한 지역 기반 활성 학습 방법을 제안하며, 이웃 정보를 활용하여 레이블 효율성을 향상시키기 위해 지역 불확실성과 적응형 PageRank를 쿼리 전략으로 도입한다. 지역 기반 방법이 기존 최고 성능(SOTA) 기법보다 우수함을 입증하였으며, 특히 낮은 레이블링 예산에서 Cora에서는 최대 3.5%의 정확도 향상을, CiteSeer에서는 1.5% 향상을 기록하였다. 적응형 PageRank는 5% 이하의 샘플링 비율에서 최고 성능를 기록하였다.

ABSTRACT

Graph convolution networks (GCN) have emerged as the leading method to classify node classes in networks, and have reached the highest accuracy in multiple node classification tasks. In the absence of available tagged samples, active learning methods have been developed to obtain the highest accuracy using the minimal number of queries to an oracle. The current best active learning methods use the sample class uncertainty as selection criteria. However, in graph based classification, the class of each node is often related to the class of its neighbors. As such, the uncertainty in the class of a node's neighbor may be a more appropriate selection criterion. We here propose two such criteria, one extending the classical uncertainty measure, and the other extending the page-rank algorithm. We show that the latter is optimal when the fraction of tagged nodes is low, and when this fraction grows to one over the average degree, the regional uncertainty performs better than all existing methods. While we have tested this methods on graphs, such methods can be extended to any classification problem, where a distance metrics can be defined between the input samples. All the code used can be accessed at : https://github.com/louzounlab/graph-al All the datasets used can be accessed at : https://github.com/louzounlab/DataSets

연구 동기 및 목표

• 쿼리 선택에 위상적 관계를 통합하여 그래프 구조 데이터에서 표준 활성 학습의 비효율성을 해결한다.
• 연결된 노드 간의 레이블 전파 효과를 활용하지 못하는 노드 수준의 불확실성 샘플링의 한계를 극복한다.
• 로컬 이웃 내 높은 불확실성 영역을 대상으로 하여 레이블 효율성을 향상시키는 지역 인식 쿼리 전략을 개발한다.
• 정보 전파가 가장 중요한 상황인 낮은 샘플링 비율에서 지역 기반 활성 학습이 최적임을 입증한다.
• 정의된 거리 척도가 있는 분류 작업에 적용 가능한 일반화 가능한 프레임워크를 제공한다. 그래프에 국한되지 않는다.

제안 방법

• 노드의 이웃에서 국소 예측 불확실성을 집계하는 지역 불확실성 측정법을 제안하며, 개별 노드의 불확실성 대신 지역 불확실성으로 대체한다.
• 미리 정의된 영역으로 정보 전파가 가장 가능성이 높은 노드를 식별하는 적응형 PageRank 기반 쿼리 전략을 도입한다.
• 지역 불확실성을 고정 반경 또는 k-이웃 그래프 기반으로 정의된 국소 이웃 내 예측 레이블의 엔트로피 함수로 기술한다.
• GCN 학습 파이프라인에 지역 쿼리 기준을 통합하여, 오라클 쿼리 후마다 모델을 재학습하여 불확실성 추정치를 정밀화한다.
• 고립되거나 중복된 노드를 피하기 위해 지역 불확실성과 밀도 가중치를 조합한 하이브리드 쿼리 전략을 사용한다.
• 그래프의 근접도(에지 또는 k-가장 가까운 이웃)를 통해 영역을 정의함으로써, 거리 척도를 사용하여 명시적 그래프 구조를 초월한 일반화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 노드 수준의 불확실성 샘플링과 비교해 볼 때, 지역 기반 불확실성 측정법이 그래프 구조 데이터에서 활성 학습 성능을 향상시킬 수 있는가?
• RQ2 지역 기반 활성 학습이 GCNs에서 기존의 불확실성 기반 방법보다 우월한 레이블링 예산은 어느 정도인가?
• RQ3 낮은 데이터 환경에서 적응형 PageRank 기반 샘플링의 성능은 표준 불확실성 및 대표 샘플링과 비교해 어떻게 되는가?
• RQ4 레이블된 노드 비율이 증가함에 따라 지역 쿼리 선택에서 국소 쿼리 선택으로의 최적 전환 시점은 언제인가?
• RQ5 제안된 지역 기반 활성 학습 프레임워크는 거리 척도가 정의된 비그래프 분류 작업에 일반화될 수 있는가?

주요 결과

• 지역 엔트로피 쿼리 전략은 Cora에서 81.4%의 정확도, CiteSeer에서 69.1%의 정확도를 기록하여, Chang et al. 및 ALFNET을 포함한 모든 베이스라인 방법을 능가하였다.
• 적응형 PageRank(APR)는 5% 이하의 낮은 샘플링 비율에서 Cora에서 최고의 정확도 82.7%, CiteSeer에서 70.5%를 기록하였으며, 무작위 및 노드 수준의 불확실성 샘플링보다 뚜렷이 뛰어났다.
• 지역 마진 기반 방법은 Cora에서 82.7%의 정확도, CiteSeer에서 70.5%의 정확도를 기록하여, 지역 불확실성이 개별 노드 불확실성보다 더 유용하다는 것을 입증하였다.
• 지역 기반 방법의 성능 향상은 낮은 샘플링 비율에서 가장 두드러졌다. 5% 이상 레이블링 비율을 초과하면, 샘플된 노드와의 평균 거리가 정체되어 지역 타겟팅의 수익 감소를 시사하였다.
• 이웃 확률의 평균화는 랜덤 샘플링보다 성능이 열 劣하였고, 반면 지역 내 국소 불확실성의 집계는 뚜렷한 성능 향상을 이끌었다.
• 지역 기반 활성 학습 프레임워크는 그래프를 초월해 일반화 가능하다. 거리 척도가 정의된 모든 분류 작업은 지역 기반 쿼리 선택에서 이점을 얻을 수 있다.