[논문 리뷰] An Adversarial Regularisation for Semi-Supervised Training of Structured Output Neural Networks

Mateusz Koziński, Loïc Simon외 1명|arXiv (Cornell University)|2017. 02. 08.

Adversarial Robustness in Machine Learning참고 문헌 19인용 수 19

한 줄 요약

이 논문은 구조적 출력 신경망의 준지도 학습을 위한 적대적 정규화 방법을 제안한다. 여기서 판별기는 레이블이 있는 데이터와 없는 데이터의 출력을 구분하며, 일반화 성능 햖을 수 있는 오차 신호를 제공한다. 이 방법은 영상 분할 작업에서 레이블이 있는 데이터의 절반만 사용해도 완전히 지도 학습한 성능과 동일한 성능을 달성한다.

ABSTRACT

We propose a method for semi-supervised training of structured-output neural networks. Inspired by the framework of Generative Adversarial Networks (GAN), we train a discriminator network to capture the notion of a quality of network output. To this end, we leverage the qualitative difference between outputs obtained on the labelled training data and unannotated data. We then use the discriminator as a source of error signal for unlabelled data. This effectively boosts the performance of a network on a held out test set. Initial experiments in image segmentation demonstrate that the proposed framework enables achieving the same network performance as in a fully supervised scenario, while using two times less annotations.

연구 동기 및 목표

• 구조적 출력 학습 과제(예: 의미적 분할)에서 대규모 레이블 데이터의 필요성을 줄이기 위해.
• 메인 네트워크의 아키텍처 제약 없이 비라벨 데이터를 활용하는 정규화 기법을 개발하기 위해.
• 레이블이 있는 데이터와 없는 데이터의 출력을 구분하는 판별기를 사용해 일반화 성능을 향상시키기 위해.
• 특징 추출 구성 요소와 무관하게 어떤 구조적 출력 아키텍처에도 적용 가능한 효과적인 준지도 학습을 가능하게 하기 위해.

제안 방법

• 메인 네트워크를 레이블이 있는 데이터와 없는 데이터 양쪽 모두에 대해 엔드 투 엔드로 훈련하여 구조적 출력을 생성한다.
• 이진 판별기를 훈련하여 네트워크 출력이 레이블이 있는지 없는지 데이터에서 유래했는지 분류하도록 한다.
• 비라벨 입력에 대한 판별기의 음의 기울기를 메인 네트워크의 오차 신호로 사용한다.
• 메인 네트워크 업데이트마다 한 번씩 판별기를 업데이트한다 (k=1) 및 교차 엔트로피 손실을 사용한다.
• 메인 네트워크와 판별기 양쪽에 대해 모멘텀(0.9)과 가중치 감소(0.001)를 사용한 확률적 경사 하강법을 적용한다.
• 무작위 이미지 이동(0–32 픽셀)을 통한 데이터 증강을 사용하고, 검증 기반 모델 선택 없이 최종 모델 가중치를 평가한다.

실험 결과

연구 질문

• RQ1 네트워크 출력에 대해 판별기를 적대적으로 훈련하면 준지도 학습에서의 일반화 성능 향상에 기여하는가?
• RQ2 비라벨 데이터를 얼마나 활용하면 성능 유지 조건에서 필요한 레이블 수를 줄일 수 있는가?
• RQ3 낮은 데이터 환경에서 제안된 적대적 정규화 기법은 기존의 가중치 감소 기법보다 얼마나 우수한가?
• RQ4 이 방법은 아키텍처에 종속되지 않으며, 구조적 출력 네트워크의 엔드 투 엔드 학습에 적용 가능한가?

주요 결과

• 제안된 방법은 테스트 세트에서 49.3%의 인터섹션 오버 유니언(IoU)을 달성하여 원래 논문에서 보고한 베이스라인 47.7%를 초월한다.
• 레이블이 있는 데이터의 1/4만 사용할 때, 이 방법은 레이블 수가 두 배인 완전히 지도 학습된 베이스라인의 성능을 재현한다.
• 레이블이 있는 데이터 비율을 1/8로 줄였을 때, 가중치 감소 기반 베이스라인보다 성능이 3%p 향상되어 추가적인 이점이 있음을 보여준다.
• 반드시 레이블이 있는 데이터의 절반만 사용할 때도 완전히 지도 학습된 베이스라인을 항상 앞서므로, 동일한 성능를 달성하기 위해 약 2배의 레이블 수를 절감할 수 있음을 시사한다.