[논문 리뷰] Adversarial Constraint Learning for Structured Prediction

Hongyu Ren, Russell J. Stewart외 3명|arXiv (Cornell University)|2018. 05. 27.

Time Series Analysis and Forecasting참고 문헌 17인용 수 3

한 줄 요약

이 논문은 구조적 예측을 위해 암묵적으로 구조적 제약을 학습하는 새로운 프레임워크인 적대적 제약 학습(ACL)을 제안한다. 이 방법은 적대적 훈련을 통해 블랙박스 시뮬레이터의 출력과 구분이 가지 않도록 모델을 훈련시킴으로써, 제약 조건을 암묵적으로 학습한다. 이 방법은 최소한의 레이블 데이터로도 높은 정확도의 준지도 학습 구조적 예측을 가능하게 하며, 자세 추정, 추적, 시계열 예측에서 최신 기술 수준(SOTA) 성능을 달성한다. 특히 제약 조건이 시뮬레이션에서 학습된 경우, 레이블이 전혀 없는 상황에서도 성능을 내는 데 성공한다.

ABSTRACT

Constraint-based learning reduces the burden of collecting labels by having users specify general properties of structured outputs, such as constraints imposed by physical laws. We propose a novel framework for simultaneously learning these constraints and using them for supervision, bypassing the difficulty of using domain expertise to manually specify constraints. Learning requires a black-box simulator of structured outputs, which generates valid labels, but need not model their corresponding inputs or the input-label relationship. At training time, we constrain the model to produce outputs that cannot be distinguished from simulated labels by adversarial training. Providing our framework with a small number of labeled inputs gives rise to a new semi-supervised structured prediction model; we evaluate this model on multiple tasks --- tracking, pose estimation and time series prediction --- and find that it achieves high accuracy with only a small number of labeled inputs. In some cases, no labels are required at all.

연구 동기 및 목표

• 구조적 예측에서 수작업으로 지정된 도메인 특화 제약 조건에 대한 의존도를 줄이기 위해, 데이터로부터 암묵적으로 제약 조건을 학습하는 것.
• 수작업으로 정의하기 어려운 고차원적이고 복잡한 출력 구조에서, 수작업으로 정의된 제약 조건이 비현실적인 상황을 해결하기 위한 것.
• 소규모 레이블 데이터셋과 레이블이 없는 데이터에 대해 적대적으로 학습된 불변성으로 제약을 걸어 효과적인 준지도 학습을 가능하게 하는 것.
• 입력-레이블 쌍을 제약 조건 지정에 필요로 하지 않는 다양한 구조적 예측 작업에 일반화 가능한 프레임워크를 개발하는 것.

제안 방법

• 프레임워크는 생성적 적대적 네트워크(GAN) 스타일의 설정을 사용하여, 주된 모델과 판별기 모델이 실제 시뮬레이션된 출력과 모델이 생성한 출력을 구분하도록 훈련한다.
• 주된 모델은 판별기를 속이도록 최적화되어, 출력이 유효한 시뮬레이션된 레이블의 분포와 일치하도록 보장된다.
• 블랙박스 시뮬레이터는 물리 엔진이나 인간 레이블링 데이터에서 유래한 대표적인 레이블 샘플을 제공하며, 입력-레이블 관계가 필요로 하지 않는다.
• 소규모 레이블 데이터셋에 대한 지도 학습과 대규모 레이블이 없는 데이터셋에 대한 적대적 제약 학습을 통합하여 준지도 학습 구조적 예측 모델을 구성한다.
• 판별기는 주어진 출력이 시뮬레이터에서 유래한 것인지 모델에서 유래한 것인지 분류하도록 훈련되며, 동시에 모델은 판별기의 혼동을 최대화하도록 훈련된다.
• 이 방법은 수식 기반 제약 조건 없이도 인간 자세의 타당성, 시계열 역학 등 복잡한 구조적 불변성을 암묵적으로 포착할 수 있다.

실험 결과

연구 질문

• RQ1 수작업으로 정의된 공식이 필요 없이, 적대적 훈련을 통해 구조적 예측을 위한 암묵적 제약 조건을 학습시킬 수 있는가?
• RQ2 소규모 레이블 입력만 존재할 경우, 제안된 방법의 성능은 어떠한가?
• RQ3 자세 추정, 추적, 시계열 예측 등 다양한 구조적 예측 작업에 대해 프레임워크가 일반화 가능한가?
• RQ4 낮은 데이터 환경에서 기존의 준지도 학습 및 약한 지도 학습 기반 방법보다 적대적 제약 학습이 성능 면에서 뛰어나게 되는가?
• RQ5 시뮬레이터에서 제약 조건을 학습함으로써, 완전한 레이블이 없거나 일부 레이블 뿐인 데이터를 모델이 활용할 수 있는가?

주요 결과

• 멀티플레이어 멀티오브젝트 추적(MOT) 벤치마크에서, ACL은 레이블이 7개 뿐인 경우에도 PCK@0.1 점수 0.9469를 기록했으며, 모든 레이블을 사용한 지도 학습보다도 뛰어난 성능(0.9622)을 보였다.
• MPII 인간 자세 데이터셋에서의 자세 추정 작업에서, ACL은 7개의 레이블 그룹만으로도 PCK@0.1 점수 0.8161을 달성했으며, 동일한 레이블 세트를 사용한 지도 학습보다 유의미하게 뛰어난 성능을 보였다.
• SML2010 데이터셋에서의 시계열 예측 작업에서는, ACL이 온도에 대해 평균 절대 오차(MAE) 1.933, 습도에 대해 3.042를 기록했으며, 제한된 레이블 데이터에도 불구하고 테스트 세트에서 지도 학습을 항상 초월하는 성능을 보였다.
• 소규모 레이블 세트에 대한 과적합을 효과적으로 방지함을 보여주었으며, 훈련 오차가 더 높은 동안에도 테스트 오차가 지도 기반 기준보다 낮았다.
• 온도 데이터만 있는 그룹과 같은 불완전한 데이터에서도 시뮬레이터를 통해 습도 샘플을 제공함으로써 제약 조건 학습이 가능해져, 전체 레이블이 없는 지도 학습 없이도 학습이 가능하다.
• 모든 평가된 작업에서 최신 기술 수준(SOTA) 성능을 달성했으며, 특히 낮은 데이터 환경에서 암묵적 제약 조건 학습의 효과성을 입증했다.