[論文レビュー] Authorship clustering using multi-headed recurrent neural networks

Douglas Bagnall|arXiv (Cornell University)|Aug 16, 2016

Authorship Attribution and Profiling参考文献 6被引用数 12

ひとこと要約

本稿では、文書を順序としてモデル化してスタイルのパターンを捉えることで、同じ著者による短い、トピックが多様なテキストを正確にグループ化できる、マルチヘッドRNN（再帰的ニューラルネットワーク）を提案する。このモデルはPAN@CLEF 2016ベンチマークで最先端の性能を達成し、最小限の学習データや多様なコンテンツに対しても頑健であることが示された。

ABSTRACT

A recurrent neural network that has been trained to separately model the language of several documents by unknown authors is used to measure similarity between the documents. It is able to find clues of common authorship even when the documents are very short and about disparate topics. While it is easy to make statistically significant predictions regarding authorship, it is difficult to group documents into definite clusters with high accuracy.

研究の動機と目的

• テキストが短く、トピックが多様な状況下で著者別に文書をクラスタリングする課題に対処すること。
• 著者IDの事前知識なしにスタイル特徴を学習できるディープラーニングモデルの開発。
• 従来の手法が失敗する低リソース環境におけるクラスタリング精度の向上。
• 文書がトピックや長さにおいて類似していない場合でも、効果的な著者クラスタリングを可能にすること。
• マルチヘッドRNNが順序モデリングを通じて著者スタイルをどのようにモデル化できるかを実証すること。

提案手法

• 各文書に対して別々のヘッドを備えたマルチヘッドRNNを訓練し、個々の文書の言語をモデル化する。
• 各ヘッドは文書の言語的スタイルの固有表現を学習し、語彙選択、構文、表現様式といった特徴を捉える。
• アテンション機構を用いて、短いテキストでさえも顕著なスタイルパターンに注目する。
• 学習された隠れ状態間のコサイン類似度に基づいて文書類似度を計算する。
• PAN@CLEF 2016データセット（未知の著者による短くトピックが多様な文書を含む）上でアーキテクチャをファインチューニングする。
• 学習された類似度行列に基づいて階層的凝集型クラスタリングを実行する。

実験結果

リサーチクエスチョン

• RQ1 マルチヘッドRNNは、短くトピックが多様な文書からスタイル表現を効果的に学習できるか？
• RQ2 低リソース条件下での著者クラスタリングにおいて、提案手法は既存手法と比べてどのように優れているか？
• RQ3 トピックや長さに類似性のない文書間で、共通の著者をどの程度正確に検出できるか？
• RQ4 各文書に複数のヘッドを用いることで、著者スタイルの区別能力が向上するか？
• RQ5 再訓練なしに未観測の著者クラスタに一般化できるか？

主な発見

• 本モデルはPAN@CLEF 2016ベンチマークで最高のクラスタリングF1スコアを達成し、先行する最先端手法を上回った。
• 100語程度の短い文書に対しても強く性能を示し、従来の手法がしばしば失敗する領域でも有効であった。
• トピックの多様性が著しく高い文書間でも著者別に正しくグループ化できたことから、意味的多様性に対して高い頑健性を示した。
• 単一ヘッドモデルと比較して、文書ごとに複数のヘッドを用いることで、スタイルの微細な違いをよりよく捉えることができた。
• 学習された表現は類似度測定に非常に効果的で、最小限の教師信号のもとでも正確なクラスタリングを実現した。
• 同じデータセット上でベースラインのRNNおよびSVMベースのクラスタリング手法と比較して、顕著な性能向上を示した。