[論文レビュー] Humor in Word Embeddings: Cockamamie Gobbledegook for Nincompoops

Limor Gultchin, Geneviève Patterson+3 more|arXiv (Cornell University)|Feb 8, 2019

Humor Studies and Applications参考文献 26被引用数 5

ひとこと要約

この論文は、語彙埋め込み（WEs）が、不協和理論、優越理論、解放理論など、単一語のユーモアの複数の次元を、スコアと相関するベクトル空間内の線形的傾きとして特定することにより、ユーモアの多様な側面を捉えることができることを示している。また、少数の評価済み語を用いて個々のユーモアセンスをベクトルとしてモデル化でき、未評価語に対するユーモア好みの予測が高精度で可能であることが示され、'audienceを理解する'テストでは最高78.1%の成功率を達成した。

ABSTRACT

While humor is often thought to be beyond the reach of Natural Language Processing, we show that several aspects of single-word humor correlate with simple linear directions in Word Embeddings. In particular: (a) the word vectors capture multiple aspects discussed in humor theories from various disciplines; (b) each individual's sense of humor can be represented by a vector, which can predict differences in people's senses of humor on new, unrated, words; and (c) upon clustering humor ratings of multiple demographic groups, different humor preferences emerge across the different groups. Humor ratings are taken from the work of Engelthaler and Hills (2017) as well as from an original crowdsourcing study of 120,000 words. Our dataset further includes annotations for the theoretically-motivated humor features we identify.

研究の動機と目的

• 語彙埋め込みがユーモア認識における個人差をモデル化できるかどうかを調査すること。
• 語彙埋め込みに反映されているユーモア理論（例：不協和、優越、解放）を特定すること。
• わずかな評価例から、未観測の語に対する個人のユーモア好みを予測する手法を開発すること。
• 12万語のユーモアスコアと理論ベースのアノテーションを備えた、大規模で公開可能なデータセットの作成と公開すること。
• 語彙埋め込みの一般化能力が、協調フィルタリングを超えて、新規ユーザー向けのユーモア予測にどの程度有効であるかを評価すること。

提案手法

• 著者らは、エンゲルターラー＆ヒルズ（2017）の平均ユーモアスコアと、12万語の新しいクラウドソーシング調査の結果とを関連付けることで、事前学習済み語彙埋め込み内に「ユーモアベクトル」を同定した。
• 6方向比較によるクラウドソーシング調査を実施し、216の非常にユーモラスな語を評価することで、個々のユーモアセンスのモデル化を可能にした。
• 各参加者のユーモアセンスは、自身が評価したユーモラス語のベクトル平均として表現され、パーソナライズされた「ユーモアセンス埋め込み」として形成された。
• 'audienceを理解する'テストを導入し、トレーニング用語のベクトルのみを用いて、2つの未評価語のうちどちらをより面白いと感じるかを予測する一般化能力を評価した。
• コサイン類似度を用いたベクトル距離による手法を採用：マッチは (r₁ - r₂) · (v₁ - v₂) > 0 を満たす場合に予測される。ここで r と v はそれぞれトレーニング語とテスト語のベクトル平均を表す。
• 語彙埋め込みが捉えている特徴を分析できるように、6つのユーモア理論に基づく特徴を有する1,500語をアノテートした。

実験結果

リサーチクエスチョン

• RQ1 語彙埋め込みは、不協和、優越、解放といった複数の理論的次元のユーモアを捉えることができるか？
• RQ2 わずかな評価済み語を用いて、個人のユーモアセンスを語彙埋め込み空間内のベクトルとして効果的にモデル化できるか？
• RQ3 これらのパーソナライズされたユーモア埋め込みは、まったく未評価の語に対する好みの予測にどの程度一般化できるか？
• RQ4 年齢や性別といった人口統計的要因は、語彙埋め込みで捉えられるユーモア好みのパターンにどのように関連しているか？
• RQ5 語彙埋め込みは協調フィルタリングを超えて、新規ユーザー向けの状況（コールドスタート）でのユーモア予測に一般化できるか？

主な発見

• 語彙埋め込み内のユーモアベクトルは、r > 0.7 の相関を示し、ユーモア傾向を強く統計的に捉えていることが判明した。
• わずか5〜35語の評価語のみで、個人のユーモアセンスを正確にモデル化でき、ハードな'audienceを理解する'テストで65.0%の成功率を達成した。
• 簡単なバージョンの'audienceを理解する'テストでは78.1%の成功率を達成し、未観測語への一般化能力が顕著に高いことが示された。
• 最もユーモラスとされた語は、タブー語（解放理論）や中傷（優越理論）といった複数のユーモア特徴を示しており、マルチモーダルユーモアの兆候が見られた。
• ユーモアセンス埋め込みのクラスタリングから、年齢や性別による顕著な差が確認され、グループごとのユーモア好みのパターンの違いが反映された。
• 本研究は、12万語のユーモアスコアと6つの理論ベースのアノテーションを備えた、公開可能なデータセットをリリースし、今後の研究を支援した。