[論文レビュー] Data-to-Text Generation with Style Imitation

Shuai Lin, Wentao Wang+5 more|arXiv (Cornell University)|Jan 28, 2019

Topic Modeling参考文献 55被引用数 7

ひとこと要約

本論文は、与えられた例文のライティングスタイルを模倣するためのニューラルアプローチを提案する。このアプローチは「ソフト」テンプレートを用いることで、硬直的なテンプレート制約を回避する。弱い教師信号を用い、ハイブリッドアテンション・コピーメカニズムとコンテンツカバレッジ制約を組み合わせることで、コンテンツの正確性とスタイル制御の両面で優れた性能を達成し、レストランおよびスポーツのドメインにおいて、自動評価および人間評価の両面でベースラインを上回る。

ABSTRACT

Recent neural approaches to data-to-text generation have mostly focused on improving content fidelity while lacking explicit control over writing styles (e.g., word choices, sentence structures). More traditional systems use templates to determine the realization of text. Yet manual or automatic construction of high-quality templates is difficult, and a template acting as hard constraints could harm content fidelity when it does not match the record perfectly. We study a new way of stylistic control by using existing sentences as soft templates. That is, the model learns to imitate the writing style of any given exemplar sentence, with automatic adaptions to faithfully describe the content record. The problem is challenging due to the lack of parallel data. We develop a neural approach that includes a hybrid attention-copy mechanism, learns with weak supervisions, and is enhanced with a new content coverage constraint. We conduct experiments in restaurants and sports domains. Results show our approach achieves stronger performance than a range of comparison methods. Our approach balances well between content fidelity and style control given exemplars that match the records to varying degrees.

研究の動機と目的

• ニューラルデータ・トゥ・テキスト生成における細かいスタイル制御の欠如に取り組む。具体的には、単語選択や文構造といった特定のライティングスタイルをモデルが模倣できないことが問題である。
• 従来のハードテンプレートの制限を克服する。ハードテンプレートは手作業での作成を必要とし、データが一致しない場合に生成の柔軟性が低下する。
• 任意の例文を「ソフト」テンプレートとして用いて、入力データレコードと完全に一致しなくてもスタイルを模倣可能にする。
• 並列データ（レコード、例文、出力）を必要としない方法を開発し、コンテンツの正確性とスタイルの実現の両立を図る。
• 完全な並列データではなく、豊富なレコード・記述ペairから得られる弱い教師信号を学習に活用することで、生成品質を向上させる。

提案手法

• モデルは、データレコードからのコンテンツと例文からのスタイルを別々に注目するハイブリッドアテンション・コピーメカニズムを用いる。これにより、事実的な内容とスタイルのパターンの区別された処理が可能になる。
• レコード・記述ペアのみを用いた弱い教師信号学習を採用。レコードとその参照記述との間のアライメントから、監視信号を導出する。
• コンテンツカバレッジ制約を新たに導入し、データレコードのキーコンテンツスロットが生成テキストに明示的にカバーされることを保証する。これにより、正確性が向上する。
• エンコーダ・デコーダフレームワークに、例文からのフレーズを選択的にコピーできるコピーメカニズムを組み合わせ、レコードの内容に適応させる。
• 交差エントロピー損失を用いて、アテンションに基づく監視が行われるエンド・ツー・エンドの学習で、アテンション重みはコンテンツカバレッジ制約によってガイドされる。
• LSTMおよびTransformerアーキテクチャの両方を評価したが、LSTMバージョンがコピーメカニズムの強さからわずかに優れた性能を示した。

実験結果

リサーチクエスチョン

• RQ1 並列データ（レコード、例文、出力）を必要とせず、ハードテンプレートにも依存しないニューラルモデルが、与えられた例文のライティングスタイルを効果的に模倣できるか。
• RQ2 例文がデータレコードと完全に一致しない場合でも、モデルがコンテンツの正確性とスタイルの模倣の両方をどれほどうまくバランスできるか。
• RQ3 コンテンツカバレッジ制約が、生成におけるコンテンツカバレッジとスタイル保持の両面でどのように向上するか。
• RQ4 ハイブリッドアテンション・コピーメカニズムは、標準的なアテンションやコピーメカニズムと比較して、スタイルとコンテンツを同時に処理する上でどのように優れているか。
• RQ5 並列データ（レコード、例文、出力）の三つ組が存在しない状況でも、レコード・記述ペアからの弱い教師信号が、どの程度効果的にスタイル模倣を可能にするか。

主な発見

• NBAデータセットにおいて、スロットフィルティングベースラインと比較して、コンテンツ正確性が16.3ポイント、コンテンツ%Excl.-oldが12.9ポイント向上し、80を超える高いスタイルm-BLEUスコアを維持した。
• レストランデータセットでは、コンテンツ正確性とスタイルの実現の両面で最良のバランスを達成し、人間評価でも50％以上の優位性を示した。
• コンテンツカバレッジ制約は、両データセットで一貫してコンテンツおよびスタイルの性能を向上させ、生成をガイドする有効性を示した。
• 例文とレコードの整合性が低い場合でも、モデルは安定した性能を維持しており、さまざまなレベルの例文・レコード整合性に耐性があることが示された。
• 人間評価では、コンテンツ正確性（5段階スケールで4.2）、文の自然さ（4.1）、スタイルの実現（4.0）が最高スコアを記録し、次善の手法を大きく上回った。