[論文レビュー] A Lightweight Regression Method to Infer Psycholinguistic Properties for Brazilian Portuguese

Leandro Borges dos Santos, Magali Sanches Duran+4 more|arXiv (Cornell University)|May 19, 2017

Text Readability and Simplification参考文献 8被引用数 4

ひとこと要約

本稿では、語長、頻度リスト、学校辞書データ、および単語埋め込みという最小限で広く利用可能な特徴のみを用いて、ブラジルポルトガル語の心理言語的特性—具体性、獲得年齢、イメージ性、主観的頻度—を推定する軽量な回帰手法を提案する。この手法は、先行研究と同等の相関水準を達成し、4つの主要な心理言語的特性がアノテートされた26,874語の自由に利用可能な語彙を生成する。

ABSTRACT

Psycholinguistic properties of words have been used in various approaches to Natural Language Processing tasks, such as text simplification and readability assessment. Most of these properties are subjective, involving costly and time-consuming surveys to be gathered. Recent approaches use the limited datasets of psycholinguistic properties to extend them automatically to large lexicons. However, some of the resources used by such approaches are not available to most languages. This study presents a method to infer psycholinguistic properties for Brazilian Portuguese (BP) using regressors built with a light set of features usually available for less resourced languages: word length, frequency lists, lexical databases composed of school dictionaries and word embedding models. The correlations between the properties inferred are close to those obtained by related works. The resulting resource contains 26,874 words in BP annotated with concreteness, age of acquisition, imageability and subjective frequency.

研究の動機と目的

• ブラジルポルトガル語における心理言語的リソースの不足に取り組むこと。これは、この分野において低リソース言語である。
• 人間によるアンケートによる心理言語的データ収集にかかる高コストと長時間の問題を克服すること。
• 基本的で容易に入手可能な言語的特徴のみを用いて、心理言語的特性をスケーラブルに推定する手法を開発すること。
• 具体性、獲得年齢、イメージ性、および主観的頻度をアノテートした、公開可能な大規模語彙を構築すること。

提案手法

• 語長、頻度リスト、および学校辞書からの語彙的データの組み合わせを用いて回帰モデルを学習する。
• 事前学習済みの単語埋め込みモデルを組み込み、意味的および分布的語彙表現を捉える。
• 特徴セットに基づいて、それぞれの心理言語的特性（具体性、獲得年齢、イメージ性、頻度）を予測する複数の回帰モデルを用いる。
• 既存の小規模な心理言語的データセットを訓練データとして活用し、回帰モデルのキャリブレーションを行う。
• 学習済みモデルを大規模なブラジルポルトガル語語彙に適用し、スケールに応じて特性を推定する。
• 人間によるアノテーションデータとの相関を比較することで、推定された特性の妥当性を検証し、信頼性を確保する。

実験結果

リサーチクエスチョン

• RQ1 語長、頻度リスト、学校辞書データ、および単語埋め込みといった、軽量で容易に入手可能な言語的特徴のみを用いて、ブラジルポルトガル語の心理言語的特性を正確に推定できるか？
• RQ2 推定された特性と人間によるアノテーションデータとの相関は、他の言語についての関連研究と比較してどの程度か？
• RQ3 語彙埋め込みと頻度データは、低リソース環境における心理言語的特性の予測精度をどの程度向上できるか？
• RQ4 26,874語の語彙が含まれる本リソースは、テキスト簡略化や読解性評価などの下流NLPタスクに十分に信頼できるか？

主な発見

• 推定された心理言語的特性は、人間によるアノテーションデータとの間で、他の言語について報告された関連研究と同等の相関水準を示している。
• 本手法は、基本的な言語的特徴のみを用いて、26,874語のブラジルポルトガル語語彙に心理言語的アノテーションを効果的に拡張した。
• 語彙埋め込みと頻度データは、回帰モデルの予測性能を顕著に向上させた。
• 得られたリソースは公開されており、テキスト簡略化や読解性評価などのNLPタスクに利用可能である。
• 人間による大規模なアノテーションが現実的でない低リソース言語において、本アプローチの実現可能性が示された。
• 推定された特性とゴールスタンダードデータとの相関から、本手法の高い信頼性と妥当性が裏付けられた。