[論文レビュー] Exploring Emoji Usage and Prediction Through a Temporal Variation Lens

Francesco Barbieri, Luís Marujo+3 more|arXiv (Cornell University)|May 2, 2018

Digital Communication and Language参考文献 13被引用数 33

ひとこと要約

本稿では、季節ごとの絵文字の意味的特徴と使用法の変化を調査し、予測精度を向上させるための時系列に配慮したアプローチを提案する。季節別に学習された絵文字埋め込み表現を用い、日付情報を深層学習モデルに統合することで、著者らは時系列的文脈が予測精度を顕著に向上させることを示した。特に、☘（サンクスギビングデー）や☀（朝・夜の文脈）といった時間に依存する絵文字に対して顕著な向上が見られ、早期融合法が最先端のシステムを上回った。

ABSTRACT

The frequent use of Emojis on social media platforms has created a new form of multimodal social interaction. Developing methods for the study and representation of emoji semantics helps to improve future multimodal communication systems. In this paper, we explore the usage and semantics of emojis over time. We compare emoji embeddings trained on a corpus of different seasons and show that some emojis are used differently depending on the time of the year. Moreover, we propose a method to take into account the time information for emoji prediction systems, outperforming state-of-the-art systems. We show that, using the time information, the accuracy of some emojis can be significantly improved.

研究の動機と目的

• 絵文字の意味的特徴と使用法が、春、夏、秋、冬という季節によって変化するかどうかを調査すること。
• 祝日、季節、時間帯といった時間的文脈が、絵文字の意味や共起パターンにどのように影響するかを分析すること。
• 日付情報（例：日付）を絵文字予測モデルに統合する手法を提案・評価し、予測精度を向上させること。
• 時間に依存しない絵文字（time-agnostic emojis）に対しても、時間的文脈の統合が予測精度に寄与するかどうかを検証すること。

提案手法

• 2015年10月から2017年11月にかけての米国限定の英語ツイートから1億件を超える大規模データセットを構築し、上位300個の頻出絵文字の中から1つの絵文字を含むツイートに絞った。
• データセットを4つの季節（春、夏、秋、冬）に分割し、それぞれに対して単語2vecのskip-gramモデルを別々に学習して絵文字埋め込み表現を生成した。各埋め込み表現は300次元で、6トークンの窓サイズを用いた。
• 4種類の季節別絵文字埋め込みモデルを訓練・比較し、k近傍法（k-NN）とペairwise相関行列を用いて意味的シフトを分析した。
• 日付情報をニューラル絵文字予測モデルに統合する2つの手法を提案した：早期融合（日付埋め込みを語彙レベル表現に連結）と後期融合（アテンション出力に連結）。
• 標準指標を用いてモデルを評価した：精度、再現率、マクロF1、1位・5位・10位までの正解率、カバレッジエラー。
• 全バリエーションの性能比較に基づき、早期融合法を最適な手法と特定した。

実験結果

リサーチクエスチョン

• RQ1 年間の異なる季節において、絵文字の意味や使用法に顕著な変化が見られるか？
• RQ2 どの絵文字が季節ごとに最も意味的変化を示し、その背後にある時間的要因（例：祝日、天候、出来事）は何か？
• RQ3 日付（月、日、時間帯など）といった時間的情報を統合することで、絵文字予測システムの性能が向上するか？
• RQ4 時間に依存しない絵文字（time-agnostic emojis）に対しても、時間的文脈の統合が予測精度に寄与するのか、それとも季節に依存する絵文字に限局するのか？

主な発見

• k-NN分析により、☘（四つ葉のクローバー）、❄（パーティー・ポッパー）、⍽（卒業帽）といった絵文字は、季節ごとに顕著な意味的シフトを示した。これは、例として3月のサンクスギビングデーに伴う文脈的意味の変化によるものであった。
• 相関行列の比較から、❄と❤️（ワイングラス）のペアは季節ごとの類似度差が最も大きく、意味的関連性に強い時間的要因が影響していることが示された。
• 日付埋め込みをモデルに統合する早期融合法が、ベースライン（日付なし）および後期融合法を上回り、F1スコアは22.10%を達成した（日付なしでは21.89%）。
• 特に☘（サンクスギビングデー）のような特定の絵文字では、日付統合によりF1スコアが0.54から0.63に向上し、相対的な性能向上率は16.7%に達した。
• 時間に依存しない絵文字（例：☻、⭐）に対しても、F1スコアに顕著な向上（例：0.44から0.49）が見られ、季節的出来事に限らず、時間的文脈が意味の曖昧除去に寄与することが示された。
• カバレッジエラーは早期融合モデルで最小（42.59）となり、ラベルの分布がより良く、複数候補に対する一貫性ある予測が可能であることが示された。