[論文レビュー] Fast k-best Sentence Compression

Katja Filippova, Enrique Alfonseca|arXiv (Cornell University)|Oct 28, 2015

Natural Language Processing Techniques参考文献 29被引用数 5

ひとこと要約

本稿では、局所的削除決定と句構造木上の再帰的スコアリング手順を用いてk個の最良圧縮を生成する、高速で教師ありの文圧縮手法を提案する。整数線形プログラミング（ILP）ベースの手法と比較して50倍速く、圧縮品質を維持または向上させている。本手法は、従来のILP手法と比較して2桁の速度向上を達成し、人間による評価でもトップ5の結果においても高品質で読みやすく、情報量豊富な圧縮を生成していることが確認された。

ABSTRACT

A popular approach to sentence compression is to formulate the task as a constrained optimization problem and solve it with integer linear programming (ILP) tools. Unfortunately, dependence on ILP may make the compressor prohibitively slow, and thus approximation techniques have been proposed which are often complex and offer a moderate gain in speed. As an alternative solution, we introduce a novel compression algorithm which generates k-best compressions relying on local deletion decisions. Our algorithm is two orders of magnitude faster than a recent ILP-based method while producing better compressions. Moreover, an extensive evaluation demonstrates that the quality of compressions does not degrade much as we move from single best to top-five results.

研究の動機と目的

• 整数線形プログラミング（ILP）の高い計算コストを回避しつつ、高品質な出力を得られる高速でスケーラブルな文圧縮手法の開発。
• ビームサーチのような近似探索手法に依存せずに、効率的にk個の最良圧縮を生成すること。
• 単一の最良結果を超えて、主に読みやすさと情報量の観点から、トップk圧縮の品質を評価すること。
• 局所的削除決定と再帰的スコアリングの組み合わせが、文法的整合性や情報量を損なわずに高品質な圧縮を生成できることを示すこと。

提案手法

• 本手法は従属構造解析木上で動作し、文圧縮を部分木のプルーニング問題として扱う。
• 豊富な局所的特徴に基づいて各エッジの削除確率を予測するため、並列コーパスで学習された最大エントロピー分類器を用いる。
• 再帰的スコアリング関数により、各ノードで子ノードの最良部分圧縮を組み合わせながら、必須の要素を保持することで、k個の最良圧縮を計算する。
• 1回の木走査で最良スコアの圧縮を生成し、O(m×n)時間でk+1番目の結果を段階的に更新する。
• 部分木全体としてのエッジ集合の評価により、部分的な削除を減らすことで品質を向上させるノードレベルスコアリング（NSS）の拡張を導入する。
• 本システムはILPを完全に回避し、解析木構造上の効率的な動的計画法に依存する。

実験結果

リサーチクエスチョン

• RQ1 高速でILPに依存しない手法が、効率的かつ高品質なk個の最良圧縮を生成できるか？
• RQ2 単一の最良結果からトップ5の結果に移行する際に、圧縮の品質が著しく低下するか？
• RQ3 局所的削除決定と再帰的スコアリングの組み合わせが、ILPベースのシステムと同等の読みやすさと情報量を持つ圧縮を生成できるか？
• RQ4 本手法の性能は、速度と圧縮品質の観点からILPベースの手法と比べてどうか？

主な発見

• 本手法は、単一の最良圧縮を生成する際、ILPベースのベースラインと比較して50倍速く、平均処理時間は678マイクロ秒（対 32,074マイクロ秒）である。
• トップ5の圧縮を生成する際、300倍の高速化を達成し、1結果あたりの平均時間はILPの42,213マイクロ秒から本手法の143マイクロ秒にまで短縮された。
• 人間評価では、Top-down手法が読みやすさスコア4.41、情報量スコア3.91を達成し、95％信頼区間でILPベースライン（4.20および3.78）を有意に上回った。
• トップ5の圧縮の品質は高いままである：読みやすさスコアは4.41、4.11、4.03、3.80、3.90であり、リスト全体にわたる品質の低下は最小限に抑えられている。
• Top-down手法の圧縮率（38.3％）はILP（46.5％）より低かったが、F1スコアは76.7（対73.9）と高く、より積極的なプルーニングでないにもかかわらず、優れた品質を示している。
• ノードレベルスコアリング（Top-down + NSS）の拡張により、F1は77.2に向上し、k=1からk=5まで一貫して高い品質を維持しており、性能の著しい低下は見られなかった。