[논문 리뷰] An Iterative Polishing Framework based on Quality Aware Masked Language Model for Chinese Poetry Generation

Liming Deng, Jie Wang외 6명|arXiv (Cornell University)|2019. 11. 29.

Natural Language Processing Techniques참고 문헌 32인용 수 4

한 줄 요약

이 논문은 다중 작업 학습을 통해 시적 품질을 향상시키는 품질 인지 마스킹 언어 모델(QA-MLM)을 사용한 반복 보정 프레임워크를 제안한다. 프레임워크는 인코더-디코더 모델을 통해 초안을 생성한 후, 문맥 기반 예측을 통해 낮은 품질의 문자를 탐지하고 교체함으로써 반복적으로 보정한다. 시가 품질 기준을 충족할 경우 자동으로 종료되며, 인간 평가에서 유창성, 통일성, 시적 품질이 크게 향상된다.

ABSTRACT

Owing to its unique literal and aesthetical characteristics, automatic generation of Chinese poetry is still challenging in Artificial Intelligence, which can hardly be straightforwardly realized by end-to-end methods. In this paper, we propose a novel iterative polishing framework for highly qualified Chinese poetry generation. In the first stage, an encoder-decoder structure is utilized to generate a poem draft. Afterwards, our proposed Quality-Aware Masked Language Model (QAMLM) is employed to polish the draft towards higher quality in terms of linguistics and literalness. Based on a multi-task learning scheme, QA-MLM is able to determine whether polishing is needed based on the poem draft. Furthermore, QAMLM is able to localize improper characters of the poem draft and substitute with newly predicted ones accordingly. Benefited from the masked language model structure, QAMLM incorporates global context information into the polishing process, which can obtain more appropriate polishing results than the unidirectional sequential decoding. Moreover, the iterative polishing process will be terminated automatically when QA-MLM regards the processed poem as a qualified one. Both human and automatic evaluation have been conducted, and the results demonstrate that our approach is effective to improve the performance of encoder-decoder structure.

연구 동기 및 목표

• 신경 생성 모델을 사용하여 통일성 있고 의미가 있으며 미학적으로 높은 품질의 중국 시를 생성하는 데 도전하는 것.
• 시의 초안을 반복적으로 보정할 수 있도록 인간의 시 작문 과정을 모방하는 것.
• 보정이 필요한지, 어떤 토큰을 수정할 것인지, 그리고 더 높은 품질의 대체어로 어떻게 교체할 것인지 자율적으로 결정하는 시스템을 개발하는 것.
• 순차적 생성 모델의 단방향 디코딩의 한계를 극복하기 위해 더 나은 토큰 예측을 위해 이방향적 문맥을 활용하는 것.
• 생성된 시가 기준 수준에 도달할 경우 보정 과정을 자동으로 종료하는 것.

제안 방법

• 사전 훈련된 BERT와 트랜스포머 디코더를 조합한 인코더-디코더 모델이 초기 시 초안을 생성한다.
• QA-MLM은 다중 작업 학습 체계를 통해 토큰 품질과 마스킹된 토큰을 동시에 예측하도록 훈련된다.
• QA-MLM은 초안의 낮은 품질의 문자를 식별하고, 전체 왼쪽 및 오른쪽 문맥을 활용하여 문맥적으로 적절한 대체어로 교체한다.
• 보정 과정은 반복적이며, QA-MLM이 시를 적합한 수준으로 분류할 경우 자동으로 종료된다.
• 모델은 BERT의 이방향 어텐션 메커니즘을 활용해 전반적인 문맥을 포착함으로써, 단방향 디코딩을 넘어서 의미적·구문적 통일성을 향상시킨다.
• 이 프레임워크는 다양한 인코더-디코더 기반 모델의 출력을 후처리하여 보정함으로써, 원래 생성 과정을 변경하지 않고도 품질을 향상시킨다.

실험 결과

연구 질문

• RQ1 다중 작업 마스킹 언어 모델이 생성된 중국 시 초안의 품질을 효과적으로 평가할 수 있는가?
• RQ2 전체 문맥을 활용하여 낮은 품질의 문자를 정확히 국소화하고 교체할 수 있는가?
• RQ3 자동 종료 기능이 있는 반복 보정이 종단 간 생성에 비해 의미적 통일성과 시적 품질을 향상시키는가?
• RQ4 QA-MLM 프레임워크는 기준 모델에 비해 얼마나 더 높은 유창성, 의미성, 시적 표현을 향상시키는가?
• RQ5 보정 과정에 이방향 문맥을 통합할 경우, 단방향 디코딩 대비 중국 시 생성에서 어떤 정도의 성능 향상을 이룰 수 있는가?

주요 결과

• 인간 평가 결과, QA-MLM 보정 프레임워크는 기준 모델 대비 시의 유창성, 통일성, 의미성, 시적 표현에서 품질 향상이 뚜렷하게 나타났다.
• 유사도, 어조 수준, 리듬 정확도 등의 자동 평가 지표도 보정 후 향상되었으며, 특히 AS2S와 CVAE-D 모델의 경우 두드러진 개선이 있었지만, B&T는 의미 품질 확보를 위해 일부 어조와 리듬에서 약간의 저하가 있었다.
• BLEU 점수 향상은 미미하여, 자동 평가 지표가 고품질의 시 평가에 부적절함을 시사한다. 이는 모든 토큰의 변화를 평균화하기 때문이다.
• QA-MLM 모델은 낮은 품질의 문자를 성공적으로 식별하고 문맥적으로 적절한 것으로 교체하여, 최소한의 수정으로도 눈에 띄는 품질 향상을 이끌어냈다.
• 반복 보정 과정은 시가 품질 기준을 충족할 경우 자동으로 종료되어, 텍스트 보정에서 자기 평가의 가능성을 입증했다.
• 인간 평가에서 QA-MLM 프레임워크는 모든 기준 인코더-디코더 모델을 압도했으며, 이는 QA-MLM이 문맥 인지 보정을 통해 의미적·문학적 품질을 효과적으로 향상시킨다는 것을 확인시켰다.