[論文レビュー] Stylometric Detection of AI-Generated Text in Twitter Timelines

Tharindu Kumarage, Joshua Garland+4 more|arXiv (Cornell University)|Mar 7, 2023

Authorship Attribution and Profiling被引用数 23

ひとこと要約

本論文はスタイロメトリック特徴を補助信号として導入し、AI生成ツイートを検出する検出器を強化し、タイムライン内でAIがいつツイートを生成し始めたかを検出する手法を提案する。特に短いタイムラインとデータが限られた場合に性能が向上することを示している。

ABSTRACT

Recent advancements in pre-trained language models have enabled convenient methods for generating human-like text at a large scale. Though these generation capabilities hold great potential for breakthrough applications, it can also be a tool for an adversary to generate misinformation. In particular, social media platforms like Twitter are highly susceptible to AI-generated misinformation. A potential threat scenario is when an adversary hijacks a credible user account and incorporates a natural language generator to generate misinformation. Such threats necessitate automated detectors for AI-generated tweets in a given user's Twitter timeline. However, tweets are inherently short, thus making it difficult for current state-of-the-art pre-trained language model-based detectors to accurately detect at what point the AI starts to generate tweets in a given Twitter timeline. In this paper, we present a novel algorithm using stylometric signals to aid detecting AI-generated tweets. We propose models corresponding to quantifying stylistic changes in human and AI tweets in two related tasks: Task 1 - discriminate between human and AI-generated tweets, and Task 2 - detect if and when an AI starts to generate tweets in a given Twitter timeline. Our extensive experiments demonstrate that the stylometric features are effective in augmenting the state-of-the-art AI-generated text detectors.

研究の動機と目的

• 単一のユーザーのTwitterタイムライン内でAI生成ツイートを自動検出することを目的とする。
• スタイロメトリック特徴が短文の最先端検出器を補強できるかを検討する。
• タイムライン内で人間の著者がAI生成ツイートへ切り替える時期と時点を検出する方法を開発する。

提案手法

• 三つのスタイロメトリックカテゴリーを定義する：表現法（Phraseology）、句読点（Punctuation）、言語多様性（Linguistic Diversity）、MTTRとFlesch Reading Easeを含む。
• スタイロメトリック信号をRoBERTaベースの埋め込みと融合ネットワークを通じて統合し、AI生成ツイートを検出する。
• スタイロCPAアプローチを用い、スタイロメトリック信号に変更点検出を適用して人間作者からAI作者への切替を局在化する。
• タイムラインをシーケンスとして表現し、各タイムラインごとにスタイロメトリーマトリクスを計算し、その後PELTベースの変更点検出を適用して局在化する。
• 検出タスクのエンドツーエンド学習をクロスエントロピー損失で行い、局在化には単純でパラメータが少ない変更点手法に依拠する。

実験結果

リサーチクエスチョン

• RQ1 RQ1：スタイロメトリック特徴は、タイムライン内のAI生成ツイートを識別する際に最先端検出器の性能を向上させることができるか？
• RQ2 RQ2：限定的な学習データで、スタイロメトリック信号は人間からAIへの著者切替がいつ・どこで発生するかをどれだけ正確に検出できるか？

主な発見

• スタイロメトリック融合は、単純なベースラインに対するAI生成ツイート検出精度を大幅に向上させ、タイムラインの長さが短い場合には、いくつかの強力なPLMベースラインと競合するか、あるいはそれを上回ることがある。
• RoBERTaRoBERTa_FT_Stylo および他の融合バリアントは、社内データと TweepFake の両方でベースラインを上回り、N=1または短いタイムラインで顕著な改善を示す。
• StyloCPA は、小規模な訓練データで特に強力な変更点局在化性能を発揮し、いくつかのPLMベースの検出器やPANスタイルのベースラインを上回る。
• スタイロメトリック信号の変更点検出は、評価ウィンドウ（W=0,1,2）全体でPLMのみのアプローチより高い局在化精度を示す。
• 句読点と表現法の特徴は、T1およびT2タスクにおいて最も情報量が多いスタイロメトリ特徴の中にあり、語彙・言語特徴は短いタイムラインでは影響が小さい。