[論文レビュー] AI vs. Human -- Differentiation Analysis of Scientific Content Generation

Yongqiang Ma, Jiawei Liu+5 more|arXiv (Cornell University)|Jan 24, 2023

Topic Modeling被引用数 76

ひとこと要約

この論文は、AI生成と人間作成の科学的要約を区別する特徴ベースの枠組みを構築し、一貫性・論旨の整合性・議論の物流を分析し、困惑度と微調整済み検出器を含む検出手法を評価します。著者は、書き方のギャップとAI生成テキストには外部的事実不整合の少なさがある一方で事実誤りを含む可能性があることを指摘します。

ABSTRACT

Recent neural language models have taken a significant step forward in producing remarkably controllable, fluent, and grammatical text. Although studies have found that AI-generated text is not distinguishable from human-written text for crowd-sourcing workers, there still exist errors in AI-generated text which are even subtler and harder to spot. We primarily focus on the scenario in which scientific AI writing assistant is deeply involved. First, we construct a feature description framework to distinguish between AI-generated text and human-written text from syntax, semantics, and pragmatics based on the human evaluation. Then we utilize the features, i.e., writing style, coherence, consistency, and argument logistics, from the proposed framework to analyze two types of content. Finally, we adopt several publicly available methods to investigate the gap of between AI-generated scientific text and human-written scientific text by AI-generated scientific text detection models. The results suggest that while AI has the potential to generate scientific content that is as accurate as human-written content, there is still a gap in terms of depth and overall quality. The AI-generated scientific content is more likely to contain errors in factual issues. We find that there exists a "writing style" gap between AI-generated scientific text and human-written scientific text. Based on the analysis result, we summarize a series of model-agnostic and distribution-agnostic features for detection tasks in other domains. Findings in this paper contribute to guiding the optimization of AI models to produce high-quality content and addressing related ethical and security concerns.

研究の動機と目的

• 構文・意味論・語用論の範囲で、AI生成と人間作成の科学的テキストを区別する特徴記述フレームワークを開発する。
• CSとBiology分野のAI対人間の科学的要約を、文体・一貫性・整合性・論証の論理性の観点で分析する。
• 特徴ベースおよびニューラルモデルアプローチを含むGPT生成テキスト検出手法を、説明可能性とともに評価する。

提案手法

• 科学的構造情報を含む最適化されたプロンプトを用いてGPT-3/Text-Davinci-003で要約を生成する。
• Writing Style、Coherence、Consistency、Argument Logisticsの4次元からなる特徴ベース検出フレームワークを構築する。
• GPT-2出力検出器を微調整し、RoBERTa/OpenAI検出器のベースラインと比較する。
• SciBERTを用いた困惑度ベースの検出を適用し、領域特有の閾値を設定する（要約は2.6、Wiki項目は4.6）。
• AI生成の科学テキストを人間が識別する能力を評価し、関連要因を分析する人間評価を実施する。

実験結果

リサーチクエスチョン

• RQ1 AI生成の科学的要約は、構文・意味・語用論の特徴を用いて人間作成のものと信頼性高く区別できるか？
• RQ2 書き方（文体）、一貫性、整合性、論証の論理性が検出性能にどの程度寄与するか？
• RQ3 AI生成と人間作成の科学的内容の深さ/品質および事実の正確性にはどのようなギャップが存在するか？
• RQ4 困惑度と検出器ベースのアプローチは、領域を跨いでAI生成の科学テキストを識別する上でどの程度有効か？

主な発見

Text Type	Category	Precision	Recall	F1 score	Number
AI-generated	Paper Abstract Text	93.3%	94.9%	94.1%	2507
Human-written	Paper Abstract Text	94.8%	93.1%	93.9%	2491
AI-generated	Wiki Item Text	71.4%	100.0%	83.3%	25
Human-written	Wiki Item Text	100.0%	60.0%	75.2%	25

• AI生成と人間作成の科学的テキストの間には顕著な書き方のギャップ（構文）が存在する。
• 困惑度ベースの検出は要約で高いF1を達成（94%）; wiki項目の説明では低い（77%）。
• トークンレベルと機能語特徴は、構文ベースの検出器で強く予測力を持つ（ロジスティック回帰で変動の最大86.1%を説明）。
• AI生成の要約はタイトルへの整合性が高い一方、内部的一貫性は低く、ケーススタディのいくつかの事実参照が誤っていたり、捏造されていることがある。
• 訓練済み検出モデルは、AI生成と人間作成の科学的テキストを区別する点で人間を上回り、科学分野でAI生成コンテンツのラベリングを支持する。