[論文レビュー] Linear Segmentation and Segment Significance

Min‐Yen Kan, Judith L. Klavans+1 more|ArXiv.org|Sep 15, 1998

Natural Language Processing Techniques参考文献 18被引用数 101

ひとこと要約

本稿では、名詞句と代名詞に対するゼロ和重み付け方式を用い、関数ベースの有意性スコアリングを実行することで、トピック的ディス course 段落を特定する線形テキストセグメンテーションシステムである SEGMENTER を提示する。従来手法に比べ、精度と再現率の両方で10%の向上を達成し、要約におけるキーセンテンス抽出の再現率が3.1%向上した。

ABSTRACT

We present a new method for discovering a segmental discourse structure of a document while categorizing segment function. We demonstrate how retrieval of noun phrases and pronominal forms, along with a zero-sum weighting scheme, determines topicalized segmentation. Futhermore, we use term distribution to aid in identifying the role that the segment performs in the document. Finally, we present results of evaluation in terms of precision and recall which surpass earlier approaches.

研究の動機と目的

• ニュース記事内のディス course 段落を効率的かつ線形的に特定するトピックベースのセグメンテーション手法の開発。
• 段落の機能（例：主要トピック、要約、細部情報）を分類し、ドキュメント全体の意味的意義に対する関連性を評価すること。
• セグメントの有意性をキーセンテンス抽出に統合することで、自動要約の精度を向上させること。
• 短いニュース記事における人間によるアノテーションベンチマークを用いて、セグメンテーションおよび有意性の性能を評価すること。

提案手法

• 効率性を考慮し、品詞タギングと簡素化されたルックアップベースのタガーモデルを用いて、名詞句、普通名詞・固有名詞、および人称代名詞・所有代名詞を抽出する。
• 文の間で繰り返し出現する語項に対してゼロ和重み付け方式を適用し、近接しあう語項（n文以内）を接続することで語項チェーンを形成する。
• リンク長メトリクスを用いて、語項の分布と繰り返しパターンに基づきセグメント境界を決定する。
• 統計的普遍性（語項頻度と分布に基づく）と経験的機能ラベル（例：主要トピック、要約、細部情報）の2段階メトリクスを用いて、セグメントの有意性を分類する。
• 表記正規化処理を実施し、重複する核心語項が存在しない場合に「赤ワイン」を「ワイン」に統合するなど、名詞句の正規化を行い、頻度が2未満の語項をフィルタリングする。
• 人間によるアノテーション済みのセグメント境界およびセグメント機能を用いて、TextTiling や Hearst の研究など従来システムと比較して精度と再現率を評価する。

実験結果

リサーチクエスチョン

• RQ1 繰り返し出現する語項に対してゼロ和重み付け方式を適用することで、線形テキスト内でのトピック的ディス course 段落を効果的に特定できるか？
• RQ2 統計的および経験的メソッドを用いて、セグメントの有意性（機能と重要性）をどれほど正確に予測できるか？
• RQ3 セグメントの有意性を統合することで、要約システムにおけるキーセンテンス抽出の性能が向上するか？
• RQ4 提案手法は、従来のセグメンテーションシステムに比べ、精度と再現率の両面でどの程度優れているか？

主な発見

• SEGMENTERシステムは、セグメント境界検出において47.0%の精度と45.1%の再現率を達成し、TextTiling（28.2%精度、33.4%再現率）やHearstの手法を上回った。
• セグメントの有意性を特徴量として使用した場合、キーセンテンス抽出の再現率が3.1ポイント（39%から42%）向上したが、精度は3%低下した。
• 人間のレビュアーは67.0%の精度と80.4%の再現率を示し、アノテーター間の一致度が弱いことが判明した。これは自動セグメンテーションの難易度と相関している。
• 近接性に基づくリンク付けを伴うゼロ和重み付け方式は、以前の手法を上回り、Hearst（1994, 1997）の手法に比べて精度と再現率の両方で10%向上した。
• セグメント機能分類の統合により要約性能が著しく向上し、一部のキーセンテンスはTF*IDF やタイトル語といった標準的特徴量では検出できず、セグメンテーションの手がかりによってのみ特定可能であった。