[論文レビュー] Community Question Answering Platforms vs. Twitter for Predicting Characteristics of Urban Neighbourhoods

Marzieh Saeidi, Alessandro Venerandi+2 more|arXiv (Cornell University)|Jan 17, 2017

Expert finding and Q&A systems参考文献 17被引用数 3

ひとこと要約

本稿では、コミュニティ型質問応答（QA）プラットフォームであるYahoo! Answersのテキストが、ロンドンの地域の実世界の人口統計的属性を予測できるかどうかを調査している。Twitterのマイクロブログと比較して、ユーザー生成テキストを自然言語処理（NLP）および回帰モデルを用いて分析した結果、QAテキストは平均皮積相関係数ρ = 0.54で人口統計を予測し、Twitter（ρ = 0.53）をわずかに上回った。また、両プラットフォーム間で明確な意味的パターンの違いが明らかになった。QAテキストは事典的知識を提供するのに対し、Twitterテキストは現在の社会文化的トレンドを反映している。

ABSTRACT

In this paper, we investigate whether text from a Community Question Answering (QA) platform can be used to predict and describe real-world attributes. We experiment with predicting a wide range of 62 demographic attributes for neighbourhoods of London. We use the text from QA platform of Yahoo! Answers and compare our results to the ones obtained from Twitter microblogs. Outcomes show that the correlation between the predicted demographic attributes using text from Yahoo! Answers discussions and the observed demographic attributes can reach an average Pearson correlation coefficient of {ho} = 0.54, slightly higher than the predictions obtained using Twitter data. Our qualitative analysis indicates that there is semantic relatedness between the highest correlated terms extracted from both datasets and their relative demographic attributes. Furthermore, the correlations highlight the different natures of the information contained in Yahoo! Answers and Twitter. While the former seems to offer a more encyclopedic content, the latter provides information related to the current sociocultural aspects or phenomena.

研究の動機と目的

• 地図上の位置情報が付与されていない、Yahoo! AnswersのようなQAプラットフォームからのコミュニティ生成テキストが、都市の地域の人口統計的属性を予測できるかどうかを評価すること。
• ロンドンの地域の人口統計的属性62項目について、Yahoo! AnswersのテキストとTwitterのマイクロブログの予測性能を比較すること。
• 予測モデルにおける高係数を示す語句とそれに対応する人口統計的属性との意味的関係を分析すること。
• 都市的属性モデリングにおいて、QAプラットフォーム（事典的）とソーシャルメディア（現在の社会文化的）の情報性の違いを対比すること。
• QAテキストは位置情報が欠如しているものの、都市計画および社会学的分析において強力な予測信号を提供できることを示すこと。

提案手法

• ロンドンの地域に関するYahoo! Answersの議論からテキストを収集し、標準的なNLP技術（トークン化、ストップワード除去、語形還元）を用いて前処理した。
• TF-IDF重み付き特徴量をQAおよびTwitterテキストから抽出し、ロジスティック回帰モデルを用いて62個人口統計的属性を予測するモデルを訓練した。
• モデルの性能評価には10分割交差検証を用い、主な指標としてピアソン積動標本相関係数（ρ）を採用した。
• 予測モデルにおける絶対値が最大の係数を示す語句を抽出し、人口統計的属性との意味的関連性を分析した。
• 定性的分析を通じて、両プラットフォームの最も相関の高い語句とそれに対応する人口統計的属性を比較し、コンテンツタイプの違いを強調した。
• Yahoo! AnswersとTwitter間の性能差の統計的有意性を評価するために、ウィルコクソン符号順位検定を用いた。

実験結果

リサーチクエスチョン

• RQ1 Yahoo! Answersのようなコミュニティ型QAプラットフォームからのテキストは、Twitterと同等またはそれ以上の性能で、都市の地域の人口統計的属性を実世界のものと予測できるか？
• RQ2 Yahoo! AnswersおよびTwitterテキストにおける高影響語句の意味的パターンは、それらが予測する人口統計的属性とどのように関連しているか？
• RQ3 QAプラットフォームとマイクロブログプラットフォームが都市の地域を記述する際に捉える情報の性質に、どのような違いがあるか？
• RQ4 QAデータに位置情報が欠如していることにより、地域レベルの属性予測力が低下するのか？
• RQ5 特定の人口統計的属性（例：民族、職業、年齢層）については、あるプラットフォームが他よりも優れた予測性能を示すのか？

主な発見

• Yahoo! Answersテキストを用いた62個人口統計的属性の予測における平均ピアソン積動標本相関係数（ρ）は0.54であり、Twitterの0.53をわずかに上回った。
• Yahoo! Answersは民族および職業関連属性の予測でTwitterを上回ったが、年齢層および自動車所有に関する属性ではTwitterの性能が優れていた。
• ウィルコクソン符号順位検定により、両プラットフォーム間の性能差は統計的に有意であった（p < 0.01）。
• 定性的分析の結果、両プラットフォームの予測力が高い語句は、それに対応する人口統計的属性と強い意味的整合性を示しており、たとえば宗教的属性に関しては「ユダヤ系」や「ユダヤコミュニティ」などの語句が顕著に見られた。
• Yahoo! Answersテキストは事典的かつ事実中心の特徴を示した一方、Twitterテキストはリアルタイムの社会的・文化的な感情や現在の出来事と関連した内容を反映していた。
• Yahoo! Answersに位置情報データが存在しないにもかかわらず、地域レベルの人口統計的属性に対する強力な予測信号を提供していた。