[논문 리뷰] Plan, Attend, Generate: Planning for Sequence-to-Sequence Models

Francis Dutil, Çaǧlar Gülçehre외 2명|arXiv (Cornell University)|2017. 11. 28.

Topic Modeling참고 문헌 5인용 수 11

한 줄 요약

이 논문은 번역 품질을 햖스키기 위해 복잡한 구조적 표현을 생성하는 계획 모듈을 도입한 순서-순서 모델인 Plan, Attend, Generate (PAG)을 제안한다. 이 방법은 두 단계 과정을 사용한다: 먼저 포인터-생성기 네트워크를 통해 출력 시퀀스의 구조를 계획하고, 그 다음 소스와 계획을 동시에 고려하여 타겟을 생성한다. PAG는 복잡한 문법적 구조를 다루는 데서 특히 뛰어난 번역 품질을 달성하며, 환영( hallucination)을 줄이는 데에도 효과적이다.

ABSTRACT

We investigate the integration of a planning mechanism into sequence-to-sequence models using attention. We develop a model which can plan ahead in the future when it computes its alignments between input and output sequences, constructing a matrix of proposed future alignments and a commitment vector that governs whether to follow or recompute the plan. This mechanism is inspired by the recently proposed strategic attentive reader and writer (STRAW) model for Reinforcement Learning. Our proposed model is end-to-end trainable using primarily differentiable operations. We show that it outperforms a strong baseline on character-level translation tasks from WMT'15, the algorithmic task of finding Eulerian circuits of graphs, and question generation from the text. Our analysis demonstrates that the model computes qualitatively intuitive alignments, converges faster than the baselines, and achieves superior performance with fewer parameters.

연구 동기 및 목표

• 복잡하거나 긴 시퀀스에 대해 일관되고 정확한 번역을 생성하는 데에 어려움을 겪는 표준 순서-순서 모델의 한계를 해결하기 위해.
• 중간 계획 단계를 도입하여 신경 기계적 번역에서 환영과 구조적 오류를 줄이기 위해.
• 생성 전에 출력의 구조를 명시적으로 모델링하여 소스와 타겟 시퀀스 간의 정렬을 향상시키기 위해.
• 종단 간 모델 대비 분리된 계획 단계가 번역 품질을 향상시키는지 평가하기 위해.

제안 방법

• 두 단계 아키텍처를 도입: 먼저 계획 네트워크가 타겟 시퀀스의 구조적 중간 표현을 생성한다.
• 계획 모듈은 포인터-생성기 네트워크를 사용하여 타겟 출력의 토큰 또는 부분 구조의 순서를 예측한다.
• 디코더는 소스 시퀀스와 생성된 계획 양쪽 모두에 주목하여 더 정보가 풍부하고 맥락에 기반한 생성을 가능하게 한다.
• 소스와 타겟 간의 정렬을 시각화하고 기준 모델과 비교하여 개선된 주목 동역학을 입증한다.
• 계획 단계가 미분 가능하도록 다이내믹한 주목을 통해 종단 간으로 훈련되며, 표준 순서-순서 목적 함수를 사용한다.
• 개발 세트 100개 예제를 사용한 독일어에서 영어로의 번역 작업에서 모델을 평가한다.

실험 결과

연구 질문

• RQ1 중간 계획 단계를 도입함으로써 순서-순서 번역 모델의 유창성과 정확도가 향상되는가?
• RQ2 PAG의 주목 정렬은 표준 순서-순서 모델 대비 어떤 구조적 일관성에서 더 나은가?
• RQ3 계획 메커니즘이 번역 출력에서 환영과 구조적 오류를 줄이는가?
• RQ4 기준 모델 대비 모델이 번역 과정에서 문법적 및 의미적 구조를 얼마나 잘 유지하는가?

주요 결과

• PAG는 특히 문법적 구조를 유지하고 어휘적 환영을 줄이는 데서 기준 모델보다 더 정확한 번역을 생성한다.
• 모델의 주목 정렬은 특히 긴 소스 시퀀스에서 더 명확하고 구조적인 주목 패턴을 보인다.
• 예시 번역에서 PAG는 기준 모델에서 관찰되는 잘못된 어순이나 의미의 이탈과 같은 주요 오류를 피한다.
• 예를 들어, 기준 모델은 'die Wiederwahl von Obama'를 'die Wahlen von Obama'로 잘못 번역하지만, PAG는 의미를 정확히 유지하여 'die Wiederwahl von Obama'로 번역한다.
• 모델은 'Schaden' 대신 'Schäden'으로 잘못 번역하거나, 참조되지 않은 'Herr Beaulieu'와 같은 부가적인 내용을 포함하는 오류를 줄인다.
• 정성적 분석을 통해 PAG의 계획 단계가 더 일관되고 맥락에 부합하는 출력 생성을 이끌어낸다는 것이 확인되었다.