[論文レビュー] Morphological Analysis as Classification: an Inductive-Learning Approach

Antal van den Bosch, Walter Daelemans+1 more|ArXiv.org|Jul 16, 1996

Natural Language Processing Techniques参考文献 16被引用数 31

ひとこと要約

本稿では、語彙素への語の分割を境界分類問題として扱うことで、誘導的機械学習を用いた形態素解析の再定式化を提案する。研究では、ib1-igアルゴリズムを用いた遅延学習が、好ましい性能（m1での誤差率1.65％）を達成し、即時学習手法を上回り、従来のルールベースシステムに代わる、言語に依存せず、高速で知識を必要としない代替手法を提供する。

ABSTRACT

Morphological analysis is an important subtask in text-to-speech conversion, hyphenation, and other language engineering tasks. The traditional approach to performing morphological analysis is to combine a morpheme lexicon, sets of (linguistic) rules, and heuristics to find a most probable analysis. In contrast we present an inductive learning approach in which morphological analysis is reformulated as a segmentation task. We report on a number of experiments in which five inductive learning algorithms are applied to three variations of the task of morphological analysis. Results show (i) that the generalisation performance of the algorithms is good, and (ii) that the lazy learning algorithm IB1-IG performs best on all three tasks. We conclude that lazy learning of morphological analysis as a classification task is indeed a viable approach; moreover, it has the strong advantages over the traditional approach of avoiding the knowledge-acquisition bottleneck, being fast and deterministic in learning and processing, and being language-independent.

研究の動機と目的

• 従来の形態素解析における知識獲得のボトル neck を解消するため、手作業で作成されたルールに代わるデータ駆動型学習を導入すること。
• 誘導的学習アルゴリズムを用いて、形態素分割を効果的に分類タスクとしてモデル化できるかを調査すること。
• さまざまな言語的粒度において、複数の誘導的学習アルゴリズムの一般化性能を評価すること。
• 自然言語形態解析というノイズが多く複雑な分野において、遅延学習と即時学習のアプローチの性能を比較すること。
• アノテート済みコーパスからの学習に基づいて、言語に依存せず、自動的かつ決定論的な形態素解析システムを構築できるかを検討すること。

提案手法

• 各文字位置を形態素境界または特定のタイプの境界を示すものとして分類する分割分類タスクに形態素解析を再定式化する。
• 各単語を形態素に分割することでラベル付きインスタンスを生成する、形態素解析済みコーパスを学習データとして使用する。
• 学習アルゴリズムの入力として、周囲の文字や形態素的文脈を含む局所的文脈特徴を、注目位置で表現する。
• 5つの誘導的学習アルゴリズムを適用する：ib1-ig（遅延学習）、igtree（即時決定木）、C4.5（即時決定木）、C4.5-ig（情報ゲイン重み付きC4.5）、k-NN（k近傍法）。
• 記憶ベース学習において、特徴量重み付き距離に基づく類似度尺度を用いて、最近傍の例を検索し、規則の抽象化なしに分類を実行する。
• 段階的な言語的粒度の増加に対応する3つのバージョンの分割タスク（m1, m2, m3）で学習・評価を行い、難易度のスケーリングを評価する。

実験結果

リサーチクエスチョン

• RQ1 誘導的学習を用いて、形態素分割を効果的に分類タスクとしてモデル化できるか？
• RQ2 さまざまな言語的粒度において、異なる誘導的学習アルゴリズムの一般化性能はどのように比較されるか？
• RQ3 例外や準則則性をよりうまく処理できるため、遅延学習が形態素解析において即時学習を上回るのか？
• RQ4 学習アルゴリズムの性能は、特徴量の重要性や情報ゲインの分散にどの程度依存するか？
• RQ5 形態素アノテート済みコーパスのみを用いて、言語に依存せず、自動的かつ決定論的な形態素解析システムを構築できるか？

主な発見

• ib1-ig遅延学習アルゴリズムが、すべての3つのタスクで最高の性能を示し、タスクm1では1.65％の誤差率、m2では1.97％、m3では2.46％を記録した。
• 一般化性能は一貫して高く、形態素的に複雑な未学習語彙の単語に対しても良好であったことから、強い耐障害性が示された。
• 情報ゲイン分析により、注目位置の直前の文字が、すべてのタスクで最も重要な特徴量であることが明らかになった。
• タスクの複雑さが増す（m1 → m2 → m3）につれて性能が低下したため、より細かい形態素的区別が学習の難易度を高めることを示唆した。
• ib1-igのような遅延学習手法は、igtree や C4.5 といった即時学習手法を上回り、特に特徴量情報ゲインの分散が低い場合に顕著であった。
• 本アプローチは、従来のシステムが直面する知識獲得のボトル neck を回避し、高速で決定論的かつ言語に依存しない処理を可能にする。