[論文レビュー] Character-level and Multi-channel Convolutional Neural Networks for Large-scale Authorship Attribution

Sebastian Ruder, Parsa Ghaffari+1 more|arXiv (Cornell University)|Sep 21, 2016

Authorship Attribution and Profiling参考文献 19被引用数 87

ひとこと要約

本稿では、大規模な著者属性付与のための文字レベルおよびマルチチャネル畳み込みニューラルネットワーク（CNNs）を提案する。文字レベルのパターンと語彙レベルの意味論の両方を活用することで、精度と予測速度を向上させる。4つのうち5つのデータセットで最先端の性能を達成し、Redditへの初めての応用を実現。研究を促進するため、新しいTwitterおよびRedditデータセットを公開する。

ABSTRACT

Convolutional neural networks (CNNs) have demonstrated superior capability for extracting information from raw signals in computer vision. Recently, character-level and multi-channel CNNs have exhibited excellent performance for sentence classification tasks. We apply CNNs to large-scale authorship attribution, which aims to determine an unknown text's author among many candidate authors, motivated by their ability to process character-level signals and to differentiate between a large number of classes, while making fast predictions in comparison to state-of-the-art approaches. We extensively evaluate CNN-based approaches that leverage word and character channels and compare them against state-of-the-art methods for a large range of author numbers, shedding new light on traditional approaches. We show that character-level CNNs outperform the state-of-the-art on four out of five datasets in different domains. Additionally, we present the first application of authorship attribution to reddit.

研究の動機と目的

• 数千人の候補著者を対象とした大規模な著者属性付与の課題に取り組み、推論時に計算コストが非常に高くなる従来手法の問題を解決する。
• ピunctuation、空白、n-gramといった著者属性を示す特徴を捉えるために、文字レベルおよびマルチチャネルCNNの有効性を検証する。
• SCAP や Imposters と同様の最先端手法に比べ、推論速度とスケーラビリティを向上させる。これらの手法は推論にCPU時間数時間から数日を要する。
• 文字と語の入力チャネルを統合したハイブリッドCNNモデルを導入・評価し、スタイル的およびトピック的情報を併用して活用する。
• 今後の研究を支援するため、大規模なTwitterおよびRedditデータセットを公開する。

提案手法

• Rawな文字列に畳み込みニューラルネットワーク（CNN）を適用し、手作業による特徴量設計を不要とし、エンドツーエンドでスタイル的パターンを学習可能にする。
• 文字と語の別々の入力ストリームを持つマルチチャネルアーキテクチャを採用。語の埋め込みは静的または非静的のいずれかを用い、意味的およびスタイル的信号を捉える。
• 確率的勾配降下法を用いて交差エントロピー損失でCNNを学習し、多数の著者を分類する最終的なソフトマックス層を最適化する。
• 畳み込み層の後にマックスプーリングを適用し、シーケンス全体で顕著な特徴を抽出し、その後に全結合層を介して分類を実行する。
• 過学習を防ぐためにドロップアウトとL2正則化を用いる。特に、1著者あたり数100件程度の訓練例しか得られない状況において有効である。
• 文字のみ、語のみ、ハイブリッドの入力チャネルの組み合わせを比較し、各モodalの寄与度を評価する。

実験結果

リサーチクエスチョン

• RQ1 文字レベルCNNは、SCAP や Imposters といった従来のn-gramベース手法に比べ、多様なドメイン（ブログ、Twitter、Redditなど）における大規模な著者属性付与で優れた性能を発揮できるか？
• RQ2 マルチチャネルCNNアーキテクチャにおいて、文字と語のチャネルを統合することで、単一チャネルモデルと比較して性能が向上するか？
• RQ3 著者候補数が増加する状況において、CNNベースのアプローチのスケーラビリティ（推論速度と精度）はどの程度か？
• RQ4 ピunctuation、空白、特殊文字といった文字レベル特徴が、著者スタイルを区別するためにどの程度寄与するか？
• RQ5 CNNは、スタイルのパターンがフォーマルなドメインとは異なる、低リソースの実世界のオンラインテキスト（例：RedditやTwitterのコメント）にも効果的に一般化できるか？

主な発見

• 文字レベルCNNは、ブログ、Twitter、Redditなど多様なドメインにおける5つのデータセットのうち4つで最先端の性能を達成し、SCAP や Imposters を上回る。
• ハイブリッド文字・語CNNモデルは、文字のみまたは語のみのモデルを上回り、トピックコンテンツが特徴的なブログドメインでは特に顕著な向上を示す。
• GPU上でCNNの推論はほぼ即時的に行えるが、SCAP や Imposters はCPU時間数時間から数日を要するため、リアルタイムのオンライン応用に適している。
• Twitterデータセットでは、ハッシュタグやユーザーメンションといった離散的n-gramの強い識別力により、SCAPがCNNを上回る。これは、CNNが高可変性・スパースなドメインでは境界をぼやけさせがちな可能性を示唆している。
• SCAPの最適なプロファイルサイズは14,000トークンであり、これは以前の研究と比べて顕著に高い値である。今後の研究では、より広いプロファイル範囲の探索が重要である。
• 著者らは、数千人のユーザーのコメントを含む新しいTwitterおよびRedditデータセット2つを公開し、今後のオンライン著者属性付与分野の研究を支援する。