[논문 리뷰] DPGN: Distribution Propagation Graph Network for Few-shot Learning

L. Yang, Liangliang Li외 4명|arXiv (Cornell University)|2020. 03. 31.

Domain Adaptation and Few-Shot Learning참고 문헌 45인용 수 24

한 줄 요약

DPGN은 소수 샘플 학습에서 개체 수준 및 분포 수준 관계를 명시적으로 모델링하는 새로운 이중 완전 그래프 네트워크를 소개한다. 점 그래프와 분포 그래프를 순환적으로 통해 레이블 정보를 전파함으로써 DPGN은 표준 데이터셋에서 지도 학습 설정에서 이전 방법들보다 5%–12% 향상되고, 준지도 학습 설정에서 7%–13% 향상되어 최신 기술 수준을 달성한다.

ABSTRACT

Most graph-network-based meta-learning approaches model instance-level relation of examples. We extend this idea further to explicitly model the distribution-level relation of one example to all other examples in a 1-vs-N manner. We propose a novel approach named distribution propagation graph network (DPGN) for few-shot learning. It conveys both the distribution-level relations and instance-level relations in each few-shot learning task. To combine the distribution-level relations and instance-level relations for all examples, we construct a dual complete graph network which consists of a point graph and a distribution graph with each node standing for an example. Equipped with dual graph architecture, DPGN propagates label information from labeled examples to unlabeled examples within several update generations. In extensive experiments on few-shot learning benchmarks, DPGN outperforms state-of-the-art results by a large margin in 5% $\sim$ 12% under supervised setting and 7% $\sim$ 13% under semi-supervised setting. Code will be released.

연구 동기 및 목표

• 기존 그래프 기반 메타학습 방법이 쌍방향(개체 수준) 관계에만 집중하는 데에 한계가 있음을 해결한다.
• 소수 샘플 학습 작업 내에서 각 샘플이 모든 지원 샘플의 전체 분포와 어떻게 관련되어 있는지 분포 수준 관계를 명시적으로 모델링한다.
• 순환적 이중그래프 아키텍처를 통해 개체 수준 및 분포 수준 관계를 융합하여 레이블 전파 및 특징 정련을 향상시킨다.
• 분포 유사성 브릿지들을 통해 비라벨링된 지원 샘플을 활용하여 준지도 학습 소수 샘플 학습으로 프레임워크를 확장한다.
• 지도 학습 및 준지도 학습 소수 샘플 학습 벤치마크에서 최신 기술 수준 방법들보다 뚜렷한 정확도 향상을 입증한다.

제안 방법

• 각 노드가 지원 또는 쿼리 샘플을 나타내는 점 그래프(PG)를 구축하며, 특징은 딥 신경망 임bedding에서 유도된다.
• 각 샘플과 모든 지원 샘플 간의 1-대-N 유사도 분포를 계산하여 분포 그래프(DG)를 구축함으로써 분포 수준 표현을 형성한다.
• 순환 업데이트 메커니즘을 구현: 분포 표현을 통해 PG에서 DG로 레이블 정보를 전파하고, DG의 분포 관계를 사용하여 PG를 정련한다.
• 여러 세대(최대 6세대까지)에 걸쳐 반복적으로 특징을 정련하기 위해 두 그래프의 노드 및 엣지 업데이트 모듈을 사용한다.
• 에피소드 학습 중에 점 그래프 손실과 분포 그래프 손실을 통합하여 네트워크 파라미터를 공동 최적화한다.
• 비라벨링된 샘플을 지원 세트에 통합하고 분포 유사성을 사용하여 라벨이 지정된 노드와 비라벨링된 노드 간에 레이블을 전파함으로써 준지도 학습을 가능하게 한다.

실험 결과

연구 질문

• RQ1 모든 지원 샘플 세트와의 비교를 통해 각 샘플이 어떻게 관련되어 있는지 분포 수준 관계를 모델링하면, 개체 수준 관계를 넘어서 소수 샘플 분류 성능을 향상시킬 수 있는가?
• RQ2 점 그래프와 분포 그래프 사이의 순환적 상호작용이 레이블 전파 및 특징 분류 능력을 어떻게 향상시키는가?
• RQ3 정확도와 수렴 시간을 균형 잡기 위해 DPGN의 순환 메시지 전달에 최적의 세대 수는 얼마인가?
• RQ4 비라벨링된 샘플이 지원 세트에 존재하는 준지도 소수 샘플 학습에서 DPGN의 효과는 어떠한가?
• RQ5 개체 수준 관계만 고려할 경우에 비해 분포 수준 관계가 성능 향상에 얼마나 기여하는가?

주요 결과

• DPGN은 miniImageNet, tieredImageNet, CUB-200-2011, CIFAR-FS에서 지도 학습 설정에서 최신 기술 수준 방법들보다 5%–12%의 절대 정확도 향상을 달성한다.
• 준지도 소수 샘플 학습에서 DPGN은 기존 그래프 기반 방법들보다 정확도에서 7%–13% 향상되어 비라벨링된 지원 샘플이 존재할 경우에도 강력한 일반화 능력을 보여준다.
• 제거 실험 결과, 분포 그래프 엣지 특징을 마스킹했을 때 라벨이 지정된 특징의 차원 수가 0–5개로 줄어들면 정확도가 약 10% 감소함을 확인하여 분포 수준 관계의 핵심적 역할을 입증한다.
• 최적의 세대 수는 6이며, 이 이상이 되면 정확도가 정점에 도달하고 변동성이 발생하여 성능과 계산 비용을 균형 잡는 데 적합하다.
• 유사도 행렬의 시각화 결과, DPGN은 세대를 거치며 개체 수준 유사도를 정련함으로써 클래스 간 거리를 증가시키고 예측 신뢰도를 향상시킴을 확인할 수 있다.
• 이중 그래프 아키텍처는 더 깔끔하고 더 명확한 열화상도를 통해 특징의 분류 능력 향상을 성공적으로 구현함을 입증한다.