[論文レビュー] Experimental Support for a Categorical Compositional Distributional Model of Meaning

Edward Grefenstette, Mehrnoosh Sadrzadeh|arXiv (Cornell University)|Jun 20, 2011

Natural Language Processing Techniques参考文献 24被引用数 223

ひとこと要約

本稿は、英国Nationalコーパス（BNC）のデータから学習した行列を用いて、分布的意味論とタイプ論理文法を統合する、実用的なカテゴリー的合成的分布的意味モデルの実装を提示する。関係性語（例：動詞、形容詞）の行列を学習し、それらを語のベクトルに適用することで、非及物動詞の意味あいまいさ解消タスクで最先端の性能を達成するとともに、新たな及物文の意味あいまいさ解消タスクにおいても既存モデルを上回り、文の構造的複雑さの増加に伴うより優れた構文的感受性とスケーラビリティを示している。

ABSTRACT

Modelling compositional meaning for sentences using empirical distributional methods has been a challenge for computational linguists. We implement the abstract categorical model of Coecke et al. (arXiv:1003.4394v1 [cs.CL]) using data from the BNC and evaluate it. The implementation is based on unsupervised learning of matrices for relational words and applying them to the vectors of their arguments. The evaluation is based on the word disambiguation task developed by Mitchell and Lapata (2008) for intransitive sentences, and on a similar new experiment designed for transitive sentences. Our model matches the results of its competitors in the first experiment, and betters them in the second. The general improvement in results with increase in syntactic complexity showcases the compositional power of our model.

研究の動機と目的

• 形式的合成的意味論と分布的意味論の間のギャップを埋めることで、論理的構造と経験的語のベクトルを統合すること。
• コーパスデータから関係語（例：動詞）の行列を学習する、スケーラブルで教師なしの手法を開発すること。
• 特に及物文を含む、より複雑な文法的構造におけるモデルの合成的パワーを評価すること。
• モデルの文法的構造への感受性が、可換合成モデルと比較して人間の判断とよりよく一致することを示すこと。
• 現実世界のコーパス環境下で、高水準のカテゴリー的枠組みを用いた合成的分布的意味論の実験的妥当性を検証すること。

提案手法

• モデルは、英国Nationalコーパス（BNC）からの共起統計に基づき、名詞をベクトル、関係語（動詞・形容詞など）を行列として表現する。
• プレグループ文法および圏論の形式的枠組みに従い、テンソルの畳み込み（クリロネッカー積および行列-ベクトル乗算）を用いて、関係行列をその目的語に適用する。
• モデルは下位から上位への学習アプローチを採用：合成ベクトルからの回帰ではなく、文単位の文脈データから直接行列を学習する。
• 評価のために、2つの意味あいまいさ解消タスクにモデルを適用：一つは先行研究からの非及物動詞用、もう一つは制御された文法的複雑さを持つ及物動詞用の新規タスク。
• 性能は、人間による類似度判断との相関を測定し、ベースラインモデルおよび乗法的モデルと比較する。
• モデルの合成的構造により、複雑な文への均一なスケーラビリティが保証され、異なる文法的形態を有する文同士の比較が可能になる。

実験結果

リサーチクエスチョン

• RQ1 現実世界のコーパスデータを用いて、高水準のカテゴリー的合成的分布的意味モデルを実用的に実装できるか？
• RQ2 モデルの合成的構造が、非合成的または可換モデルと比較して、意味あいまいさ解消タスクでより優れた性能を発揮するか？
• RQ3 特に及物構造において、文法的複雑さの増加に伴い、モデルの性能はどのように変化するか？
• RQ4 モデルの文法的構造への感受性は、人間の意味的類似度判断とどの程度一致するか？
• RQ5 モデルが関係語（例：動詞）を、その目的語に対して作用する行列として効果的に表現でき、構文的および意味的差異を保持できるか？

主な発見

• 非及物動詞の意味あいまいさ解消タスクにおいて、最先端の競合モデルと同等の性能を達成し、より単純な文法的構造においても有効性が確認された。
• 新規の及物文の意味あいまいさ解消タスクにおいて、ベースラインモデルおよび乗法的モデルを著しく上回り、優れた構文的感受性を示した。
• 文の複雑さが増すに従い、人間のアノテーターの判断との一致度が一貫して向上する傾向を示し、強力な合成的パワーを示した。
• 平均相関値では、カテゴリー的モデルとベースラインモデルとの差が小さいが、特に複雑なケースにおいて、カテゴリー的モデルの方が人間の判断とよりよく一致した。
• 結果から、モデルの合成的アーキテクチャが、多様な文法的構造にわたり、スケーラブルかつ頑健な意味の合成を可能にしていることが確認された。
• 教師なしで生コーパスデータから関係語の行列を学習できるという点から、モデルの実用的妥当性と一般化可能性が裏付けられた。