[논문 리뷰] Generative Data Augmentation for Commonsense Reasoning

Yiben Yang, Chaitanya Malaviya외 7명|arXiv (Cornell University)|2020. 04. 24.

Topic Modeling참고 문헌 66인용 수 18

한 줄 요약

이 논문은 사전 훈련된 언어 모델을 사용하여 다양한 고품질의 공통 지식 추론 예제를 합성하는 생성형 데이터 증강 프레임워크인 G-DAug$^c$를 제안한다. 영향도 기반 필터링과 다양성 최대화 선택을 조합함으로써, WinoGrande, CommonsenseQA, CoDaH와 같은 벤치마크에서 분포 내 성능과 내성 강도를 향상시키며, 최대 4%의 절대 정확도 향상을 달성하여 최신 기술 수준에 도달한다.

ABSTRACT

Recent advances in commonsense reasoning depend on large-scale human-annotated training data to achieve peak performance. However, manual curation of training examples is expensive and has been shown to introduce annotation artifacts that neural models can readily exploit and overfit on. We investigate G-DAUG^C, a novel generative data augmentation method that aims to achieve more accurate and robust learning in the low-resource setting. Our approach generates synthetic examples using pretrained language models, and selects the most informative and diverse set of examples for data augmentation. In experiments with multiple commonsense reasoning benchmarks, G-DAUG^C consistently outperforms existing data augmentation methods based on back-translation, and establishes a new state-of-the-art on WinoGrande, CODAH, and CommonsenseQA. Further, in addition to improvements in in-distribution accuracy, G-DAUG^C-augmented training also enhances out-of-distribution generalization, showing greater robustness against adversarial or perturbed examples. Our analysis demonstrates that G-DAUG^C produces a diverse set of fluent training examples, and that its selection and training approaches are important for performance. Our findings encourage future research toward generative data augmentation to enhance both in-distribution learning and out-of-distribution generalization.

연구 동기 및 목표

• 공통 지식 추론 작업에서 인간이 작성한 훈련 데이터의 높은 비용과 취약성 문제를 해결한다.
• 인간이 정제한 데이터셋으로 훈련된 신경망 모델에서의 표본 오차와 과적합 문제를 완화한다.
• 합성 데이터를 활용한 저자원, 확장 가능한 해법을 개발하여 모델의 일반화 능력을 향상시킨다.
• 공통 지식 추론에서 분포 내 성능과 분포 외 강도를 모두 향상시킨다.
• 합성 예제가 정보적이고 다양한 성질을 갖는 데이터 선택 파이프라인을 설계한다.

제안 방법

• 사전 훈련된 언어 모델(예: GPT-2)을 사용해 대규모 합성 공통 지식 추론 질문 및 답변 풀을 생성한다.
• 훈련된 작업 모델을 미세조정하여 생성된 예제의 레이블 품질을 향상시킨다.
• 영향도 함수를 적용해 훈련에 미치는 영향력이 가장 큰 합성 예제를 식별한다.
• 선택된 합성 예제의 의미적 다양성을 극대화하기 위한 히우리스틱을 구현한다.
• 두 단계 훈련 방식을 활용한다: 먼저 필터링된 합성 데이터로 훈련하고, 그 다음 원본 인간 정제 데이터로 미세조정한다.
• 생성된 예제의 다양성을 활용해 원래 훈련 세트에 존재하지 않는 새로운 의미 단위를 도입한다.

실험 결과

연구 질문

• RQ1 생성 모델은 공통 지식 추론 데이터 증강에 적합한 고품질, 다채로운 합성 예제를 생성할 수 있는가?
• RQ2 대규모 생성 풀에서 가장 정보적이고 다양한 합성 예제를 어떻게 선택할 수 있는가?
• RQ3 합성 데이터 증강은 공통 지식 추론 벤치마크에서 분포 내 성능을 향상시키는가?
• RQ4 합성 데이터는 적대적 변형과 분포 외 예제에 대한 모델의 강도를 향상시킬 수 있는가?
• RQ5 데이터 선택 및 훈련 파이프라인에서 성능 향상에 가장 기여하는 요소는 무엇인가?

주요 결과

• G-DAug$^c$는 WinoGrande, CommonsenseQA, CoDaH를 포함한 네 개의 공통 지식 추론 벤치마크에서 1–4%의 절대 정확도 향상을 달성하며, WinoGrande, CommonsenseQA, CoDaH에서 최신 기술 수준의 성능을 기록한다.
• 프레임워크는 내성 강도를 향상시켜 변형된 평가 세트에서 더 높은 정확도를 보이며, 적대적 공격에 저항성을 보인다.
• 인간 평가 결과 생성된 질문 중 74.04%가 수용 가능하다는 평가(≥3/4)를 받았으며, 평균 유창성 평가는 3.34였다.
• 합성 데이터는 원래 훈련 세트보다 훨씬 더 많은 고유한 의미 단위를 도입하여 효과적인 데이터 다양성 확보를 확인했다.
• 모델 성능은 날카기성(Hessian 추적)으로는 충분히 설명되지 않아, 최적화 다이내믹스보다 데이터 품질과 선택 전략이 더 중요함을 시사한다.
• G-DAug$^c$는 백트랜슬레이션 기반 베이스라인과 미세조정된 생성기의 앙상블보다도 우수한 성능을 보이며, 선택 및 훈련 전략의 우수성을 입증한다.