[論文レビュー] A Pointillism Approach for Natural Language Processing of Social Media

Peiyou Song, Anhei Shu+3 more|arXiv (Cornell University)|Jun 21, 2012

Complex Network Analysis Techniques参考文献 20被引用数 7

ひとこと要約

本稿では、中国語のソーシャルメディアにおける自然言語処理のためのポイントリスム的手法を提案し、語彙ではなく3文字の語群（trigram）を基本単位として扱う。時間的経過に伴う共起パターンの分析により、事前定義された語彙集に依存せずに、複雑な言語的単位を再構築する手法が高精度を達成した—4文字熟語では0.93、より長いフレーズでは0.87の精度を示した。これは、困難な言語環境における非公式で創造的な言語処理の可能性を示している。

ABSTRACT

The Chinese language poses challenges for natural language processing based on the unit of a word even for formal uses of the Chinese language, social media only makes word segmentation in Chinese even more difficult. In this document we propose a pointillism approach to natural language processing. Rather than words that have individual meanings, the basic unit of a pointillism approach is trigrams of characters. These grams take on meaning in aggregate when they appear together in a way that is correlated over time. Our results from three kinds of experiments show that when words and topics do have a meme-like trend, they can be reconstructed from only trigrams. For example, for 4-character idioms that appear at least 99 times in one day in our data, the unconstrained precision (that is, precision that allows for deviation from a lexicon when the result is just as correct as the lexicon version of the word or phrase) is 0.93. For longer words and phrases collected from Wiktionary, including neologisms, the unconstrained precision is 0.87. We consider these results to be very promising, because they suggest that it is feasible for a machine to reconstruct complex idioms, phrases, and neologisms with good precision without any notion of words. Thus the colorful and baroque uses of language that typify social media in challenging languages such as Chinese may in fact be accessible to machines.

研究の動機と目的

• 中国語における語の区切り問題、特に語の境界が曖昧な非公式なソーシャルメディア文書における課題に対処すること。
• 熟語や造語のような意味のある言語的単位が、事前定義された語彙集に依存せずに再構築可能かどうかを検討すること。
• 低リソースで変動が激しい言語環境（例：ソーシャルメディア）におけるNLPにおいて、文字3文字語群（trigram）を基本単位として用いることの妥当性を評価すること。
• 時間的共起パターンが、高精度で複雑なフレーズを的確に捉え・再構築できることを実証すること。

提案手法

• 語ではなく、3文字の文字列（trigram）を分析の基本単位として用いる。
• 言語的意味は、trigram列の集団的かつ時間的に相関する出現から生じるとモデル化する。
• 語彙集の標準形から逸脱しても正しく再構築された場合を許容する、制約のない正確性指標を適用する。
• ソーシャルメディアからの大規模な時間的データを活用し、意味のあるフレーズに対応する安定的で繰り返し現れるtrigramパターンを同定する。
• 時間的に一貫した共起を示すtrigramクラスタを統合・順位付けすることで、より長いフレーズを再構築する。
• 実世界のソーシャルメディアデータと、Wiktionaryから収集したフレーズリストを用いて性能を評価し、頻度と再発生を焦点とする。

実験結果

リサーチクエスチョン

• RQ1 中国語のテキストにおけるtrigramレベルのパターンを用いて、語区切りに依存せずに熟語や造語といった複雑な言語的単位を再構築できるか？
• RQ2 trigramの時間的共起パターンは、非公式なソーシャルメディア言語における意味のあるフレーズをどの程度的確に捉え・表現できるか？
• RQ3 低リソースで変動が激しい環境において、trigramベースの再構築手法は、従来の語ベースNLP手法と比べてどの程度の性能を示すか？
• RQ4 語の境界が不明または曖昧な状況下でも、この手法が高精度でフレーズを特定できるか？

主な発見

• 1日あたり少なくとも99回出現する4文字熟語について、trigramベースの再構築における制約のない正確性は0.93に達した。
• Wiktionaryから収集したより長いフレーズや造語について、制約のない正確性は0.87であり、多様な言語的形態において優れた性能を示した。
• 語の境界や語彙集の事前知識なしに、複雑な熟語や新規のフレーズを成功裏に再構築できた。
• trigramの時間的共起パターンが、高精度で意味のある言語的単位を同定・再構築するのに十分であった。
• 結果から、ポイントリスム手法が中国語のソーシャルメディアにおける創造的で装飾的・非公式な言語処理に実用的であることが示唆された。
• パターンベースの集積によって、小規模な文字単位の組み合わせから、機械による困難で標準でない言語形態の理解が可能であることが実証された。