[論文レビュー] Web-scale Surface and Syntactic n-gram Features for Dependency Parsing

Dominick Ng, Mohit Bansal+1 more|arXiv (Cornell University)|Feb 25, 2015

Natural Language Processing Techniques参考文献 13被引用数 3

ひとこと要約

この論文は、Google BooksおよびGoogle Syntactic Ngramsコーパスから得られる、新しい一次および二次の表面および句構造n-gram特徴量を導入し、従属構文解析の精度を向上させることを目的としている。MSTParserと組み合わせることで、ウェブテキストでは最大1.4%の絶対的UAS向上、ニューズワイヤーでは0.8%の向上を達成し、ドメイン内およびドメイン外の両設定で顕著な向上を示した。

ABSTRACT

We develop novel first- and second-order features for dependency parsing based on the Google Syntactic Ngrams corpus, a collection of subtree counts of parsed sentences from scanned books. We also extend previous work on surface $n$-gram features from Web1T to the Google Books corpus and from first-order to second-order, comparing and analysing performance over newswire and web treebanks. Surface and syntactic $n$-grams both produce substantial and complementary gains in parsing accuracy across domains. Our best system combines the two feature sets, achieving up to 0.8% absolute UAS improvements on newswire and 1.4% on web text.

研究の動機と目的

• 多様なソースから得られる大規模かつウェブスケールのn-gram特徴量を用いて、依存構文解析の精度を向上させること。
• 一次の表面n-gramを二次の特徴量へ拡張し、文脈モデリングを強化すること。
• スキャン済みの書籍コーパス（Google Books、Syntactic Ngrams）を表面および構文的n-gramのソースとしての有用性を調査すること。
• ドメイン内（ニューズワイヤー）およびドメイン外（ウェブツリーク）の設定において、表面および構文的n-gram特徴量の相補性を評価すること。
• 異なるn-gramソースコーパス（Web1T 対 Google Books）および特徴量タイプが解析性能に与える影響を評価すること。

提案手法

• Web1TおよびGoogle Books Ngramコーパスから一次および二次の表面n-gramを抽出し、log2(頻度)/5を基準にバケット化された頻度カウントを用いてスパarsityを低減する。
• 3450億語の解析済みスキャン済書籍をカバーするGoogle Syntactic Ngramsコーパスから、構文的n-gram特徴量を開発する。
• 実行時間の効率を向上させるために、語、品詞タグ、方向性（主語が左/右にあるか）、および頻度のボクシング（5刻み）を組み合わせた特徴量のエンコードを行う。
• 主語-目的語の依存関係の前後および間の上位語および品詞タグを用いて、並び替え風の文脈特徴量を生成する。
• 推論の高速化を図るため、学習時に特徴量カウントを事前に計算し、ノイズを低減するため最小頻度カットオフを10,000に設定する。
• 表面および構文的n-gram特徴量をグラフベースのMSTParserに統合し、ラベルなしアタッチメントスコア（UAS）における相補的向上を評価する。

実験結果

リサーチクエスチョン

• RQ1 Google Books Ngramコーパスからの二次の表面n-gramは、一次の特徴量と比較して解析精度を向上させることができるか？
• RQ2 Google Syntactic Ngramsコーパスからの構文的n-gram特徴量は、ドメインをまたいで表面n-gramと比較して、解析精度にどのように寄与するか？
• RQ3 表面および構文的n-gram特徴量は、依存構文解析器に組み合わせることで相補的な向上をもたらすか？
• RQ4 ドメイン外設定において、Web1Tからの特徴量とGoogle Books Ngramコーパスからの特徴量の性能はどのように比較されるか？
• RQ5 スキャン済み書籍コーパスからの特徴量は、表面n-gramの線形語順序依存性の制限をどの程度軽減するか？

主な発見

• 表面および構文的n-gram特徴量を組み合わせた最良のシステムは、ニューズワイヤーで92.5%のUAS、ウェブテキストで85.2%のUASを達成し、それぞれベースラインの91.7%および83.8%に対して0.8%および1.4%の絶対的向上を示した。
• Google Books Ngramコーパスからの二次の表面n-gramは統計的に有意な向上をもたらし、後者はn-gram総数が2倍あるにもかかわらず、性能はWeb1Tと同等であった。
• 構文的n-gram特徴量は、特に構文的曖昧性の解消において顕著な向上をもたらしたが、元のコーパスのパーサーやOCRの誤りによる制限が性能に影響を与えていた。
• Web1TとGoogle Books間のn-gramクエリの交差は24.7%にとどまり、両コーパス間に有意な分布的差異があることを示しており、これにより特徴量の相補性が説明できる。
• 表面および構文的n-gram特徴量は相補的であり、組み合わせたシステムは両者の長所を活かした：表面n-gramは語の共起を、構文的n-gramは構造的曖昧性の解消を担当した。
• Google Syntactic NgramsコーパスにオーバーラップするOCRおよびパーサーの誤りによるノイズが存在しても、特徴量カウントは強固で有用であった。特に表面n-gram特徴量と組み合わせた場合に顕著であった。