[論文レビュー] Non-Parallel Text Style Transfer with Self-Parallel Supervision

Ruibo Liu, Chong Gao+3 more|arXiv (Cornell University)|Apr 18, 2022

Topic Modeling被引用数 7

ひとこと要約

本稿では、シーングラフを用いて非並列データセットから概ね並列な文のペアを抽出し、大規模言語モデルを微調整することで、自己並列な自己教師付き学習を活用するテキストスタイル変換フレームワークLaMerを提案する。本手法は、センチメント、フォーマリティ、および新しいポリティカルステークス変換タスクにおいて最先端の性能を達成し、従来手法に比べてスタイル変換の正確性、コンテンツの保持、および文の自然さが顕著に向上する。

ABSTRACT

The performance of existing text style transfer models is severely limited by the non-parallel datasets on which the models are trained. In non-parallel datasets, no direct mapping exists between sentences of the source and target style; the style transfer models thus only receive weak supervision of the target sentences during training, which often leads the model to discard too much style-independent information, or utterly fail to transfer the style. In this work, we propose LaMer, a novel text style transfer framework based on large-scale language models. LaMer first mines the roughly parallel expressions in the non-parallel datasets with scene graphs, and then employs MLE training, followed by imitation learning refinement, to leverage the intrinsic parallelism within the data. On two benchmark tasks (sentiment & formality transfer) and a newly proposed challenging task (political stance transfer), our model achieves qualitative advances in transfer accuracy, content preservation, and fluency. Further empirical and human evaluations demonstrate that our model not only makes training more efficient, but also generates more readable and diverse expressions than previous models.

研究の動機と目的

• 既存のテキストスタイル変換モデルが非並列データセットからの弱い自己教師付き学習に依存するという制限を解消すること。これは、しばしばスタイル変換の品質が低く、コンテンツの劣化を引き起こす。
• 非並列データセットに内在する並列性を活用し、シーングラフに基づくアライメントによって、自動的に概ね並列な文のペアを特定すること。
• 抽出された並列データ上で最大尤度推定（MLE）の事前学習と模倣学習による最適化を組み合わせることで、学習効率と生成品質を向上させること。
• ポリティカルステークス変換という新しいベンチマークタスクを導入し、対応するデータセットを公開することで、より抽象的で繊細なスタイル変換タスクの評価を可能にすること。
• 自己教師付きで並列データを抽出することで、多様なテキストスタイル変換タスクにおける性能向上が顕著に達成できることを示すこと。

提案手法

• 文の埋め込みとシーングラフを用いて、ソーススタイルとターゲットスタイルの間で意味的に整合する表現を特定することで、非並列データセットから概ね並列な文のペアを抽出する。
• 最大尤度推定（MLE）を用いて、テキスト変換言語モデル（BART）を微調整し、ソーススタイルの入力からターゲットスタイルの文を生成する尤度を最大化する。
• 対照的損失を用いた強化学習を適用し、高品質なスタイル変換を報酬とし、劣悪な出力をペナルティ化することで、生成を精緻化する。
• シーングラフを用いて構造的および意味的関係を捉え、表面的なトークンの違いがあっても、堅牢なアライメントを可能にする。
• 抽出された並列ペアからの自己自己教師付き学習により、非並列データのランダムペアリングに比べて、より強い自己教師付き信号を提供する。
• 段階的な学習パイプラインを採用する：(1) シーングラフに基づく抽出、(2) MLE事前学習、(3) 対照的損失を用いた模倣学習による最適化。

実験結果

リサーチクエスチョン

• RQ1 抽出された文のペアからの自己並列な自己教師付き学習は、非並列データセットにおけるテキストスタイル変換の性能向上に寄与するか？
• RQ2 LaMerは、従来の非教師付きTST手法と比較して、スタイル変換の正確性、コンテンツの保持、および文の自然さの観点で優れているか？
• RQ3 提案手法は、ポリティカルステークス変換のような困難で抽象的なスタイル変換タスクにも汎用性を示せるか？
• RQ4 並列表現の抽出にシーングラフを用いることで、より信頼性が高く多様なスタイル変換出力を得られるか？
• RQ5 自己教師付きで並列データを抽出することは、学習効率とモデルの汎用性向上にどの程度寄与するか？

主な発見

• センチメント変換タスクにおいて、LaMerはすべてのタスクで最高の人的評価スコアを達成し、スタイルが5.45/7、コンテンツが4.91/7、読みやすさが5.43/7であった。
• フォーマリティ変換タスクでは、LaMerはスタイルが5.50/7、コンテンツが5.45/7、読みやすさが5.39/7を記録し、すべてのベースラインを上回った。
• 新たに導入されたポリティカルステークス変換タスクでは、LaMerはGPT-2-largeを用いてパープレキシティ32.3を達成し、競合手法（CAE: 1869.0、Style Transformer: 350.0）を著しく上回った。
• 文の埋め込みを用いることでパープレキシティを11.4に、自己アテンションの自己教師付き信号を用いると13.3にまで低下させ、文の自然さと生成品質が向上した。
• 人的評価では、LaMerが以前のモデルよりもより読みやすく多様な表現を生成していることが確認され、全評価項目で高いスコアが得られた。
• 本手法は強力な汎用性を示し、既存のベンチマークと新しい挑戦的なポリティカルステークス変換タスクの両方で最先端の結果を達成した。