[논문 리뷰] BLISS: Robust Sequence-to-Sequence Learning via Self-Supervised Input Representation

Zheng Zhang, Liang Ding외 4명|arXiv (Cornell University)|2022. 04. 16.

Natural Language Processing Techniques인용 수 9

한 줄 요약

BLISS는 프레임워크 수준의 강건한 시퀀스-투-시퀀스 학습 방법을 제안하며, 입력 → 출력의 지도 학습 신호와 왜곡된 입력 → 원본 입력의 자기지도 학습 신호를 동시에 활용하여 모델의 일반화 능력을 향상시킨다. 단순한 데이터 증강 기법(섞기 및 교체)을 적용하고, 왜곡된 토큰과 위치를 복원하는 자기지도 학습 인코더를 학습시킴으로써 BLISS는 일관된 성능 향상을 이룬다: 번역에서는 최대 0.8 BLEU 포인트 향상, 보정에서는 +2.0 F0.5 향상, 요약에서는 +0.5 ROUGE-L 향상이며, 기존의 순수한 트랜스포머보다 더 풍부한 언어 표현을 학습한다.

ABSTRACT

Data augmentations (DA) are the cores to achieving robust sequence-to-sequence learning on various natural language processing (NLP) tasks. However, most of the DA approaches force the decoder to make predictions conditioned on the perturbed input representation, underutilizing supervised information provided by perturbed input. In this work, we propose a framework-level robust sequence-to-sequence learning approach, named BLISS, via self-supervised input representation, which has the great potential to complement the data-level augmentation approaches. The key idea is to supervise the sequence-to-sequence framework with both the extit{supervised} ("input$ ightarrow$output") and extit{self-supervised} ("perturbed input$ ightarrow$input") information. We conduct comprehensive experiments to validate the effectiveness of BLISS on various tasks, including machine translation, grammatical error correction, and text summarization. The results show that BLISS outperforms significantly the vanilla Transformer and consistently works well across tasks than the other five contrastive baselines. Extensive analyses reveal that BLISS learns robust representations and rich linguistic knowledge, confirming our claim. Source code will be released upon publication.

연구 동기 및 목표

• 기존의 시퀀스-투-시퀀스 모델을 위한 데이터 증강 방법에서 지도 학습 신호가 충분히 활용되지 않는 문제를 해결하기 위해, 원본 입력을 지도 신호로 활용하지 않고 왜곡된 입력에만 의존하는 기존 방법의 한계를 해결한다.
• 지도 학습(입력 → 출력)과 자기지도 학습(왜곡된 입력 → 원본 입력)을 동시에 최적화하는 프레임워크 수준의 접근법을 개발한다.
• 보조 자기지도 학습을 통해 더 이NM(invariant)하고 언어학적으로 풍부한 표현을 학습시킴으로써 분포 이탈과 추론 시 노이즈에 대한 모델의 강건성을 향상시킨다.
• 기계 번역, 문법 오류 보정, 텍스트 요약을 포함한 다양한 시퀀스-투-시퀀스 작업에서 제안된 방법의 일반성과 효과성을 검증한다.

제안 방법

• 왜곡된 입력 시퀀스를 생성하기 위해 간단한 두 가지 데이터 증강 기법(섞기 및 토큰 교체)을 사용하여 입력을 왜곡하는 함수를 적용한다.
• 왜곡 정도를 조절할 수 있는 스무스니스 컨트롤러를 도입하여 훈련에 의미 있고 비트리비얼한 노이즈를 유지한다.
• 인코더 위에 자체 설계된 자기지도 메커니즘을 도입하여, 왜곡된 입력에서 원본 토큰과 그 위치를 동시에 예측한다.
• 두 가지 보조 손실 함수를 사용한다: 토큰 복원 손실(원본 토큰 복원)과 위치 복원 손실(원본 토큰 위치 복원).
• 표준 크로스 엔트로피 손실(출력 예측을 위한)과 두 가지 자기지도 학습 손실(입력 복원을 위한)을 조합한 복합 목적 함수를 사용해 시퀀스-투-시퀀스 모델을 엔드 투 엔드로 훈련한다.
• 풀드된 인코더 표현에 다층퍼셉트론(MLP) 분류기를 적용하여 언어 지식을 탐사하고, 학습된 표현의 정량적 평가를 가능하게 한다.

실험 결과

연구 질문

• RQ1 지도 학습과 자기지도 학습 신호를 동시에 활용하는 프레임워크 수준의 자기지도 학습 접근법이 시퀀스-투-시퀀스 모델의 강건성 향상에 기여하는가?
• RQ2 입력 → 출력 및 왜곡된 입력 → 원본 입력의 지도 학습을 동시에 최적화함으로써 다양한 NLP 작업에서 모델의 일반화 능력이 어떻게 향상되는가?
• RQ3 표면, 문법, 의미적 특성의 세 가지 탐사 작업에서 BLISS는 표준 트랜스포머에 비해 얼마나 더 풍부한 언어 지식을 유지하고 향상시키는가?
• RQ4 기존의 데이터 증강 기반 방법에 비해 BLISS는 하이퍼파rameter 설정과 추론 시 노이즈에 얼마나 강건한가?
• RQ5 SwitchOut과 같은 다른 데이터 증강 기법과 BLISS를 조합하여 성능 향상을 더욱 높일 수 있는가?

주요 결과

• BLISS는 평가된 모든 작업에서 일관된 성능 향상을 기록한다: 기계 번역에서는 강력한 트랜스포머 기반 모델 대비 +0.6~+0.8 BLEU 포인트 향상, 문법 오류 보정에서는 +2.0 F0.5 향상, 텍스트 요약에서는 +0.5 ROUGE-L 향상.
• 제거 실험 결과, 토큰 복원 손실이나 위치 복원 손실을 제거할 경우 노이즈가 있는 추론 환경에서 성능 저하가 심각하게 발생함을 확인하여 보조 자기지도 학습의 핵심적 역할을 입증한다.
• 탐사 작업 결과, BLISS 인코더는 표면, 문법, 의미적 탐사 작업 전반에서 평균 점수 66.2로 기존의 순수한 트랜스포머(65.1)보다 훨씬 풍부한 언어 지식을 유지함을 입증한다.
• BLISS는 하이퍼파rameter 변화와 추론 시 노이즈에 대해 강건하며, 깨끗한 환경뿐 아니라 노이즈가 있는 환경에서도 기준 모델을 능가하는 성능을 보인다.
• 기존의 데이터 증강 전략(예: SwitchOut)과 상호보완적이므로, 향후 강건한 훈련 파이프라인에 통합 가능할 것으로 보인다.
• 저자원 설정에서도 성능이 안정적이고 효과적으로 유지됨을 통해 강력한 일반화 능력을 지닌 것으로 확인된다.