[論文レビュー] The Ethical Need for Watermarks in Machine-Generated Language

Alexei Grinbaum, Laurynas Adomaitis|arXiv (Cornell University)|Sep 7, 2022

Ethics and Social Impacts of AI被引用数 12

ひとこと要約

本稿では、等間隔文字列（ELS）を用いて、AI生成テキストに不顕著で機械可読な水 Stam 付け、合成された言語と人間が書いた言語を倫理的に区別する手法を提案する。この手法は、読みやすさを損なうことなく検出可能であり、大規模言語モデルの意味的でない性質に起因する、だまし、感情的操作、誤情報のリスクに対処する。

ABSTRACT

Watermarks should be introduced in the natural language outputs of AI systems in order to maintain the distinction between human and machine-generated text. The ethical imperative to not blur this distinction arises from the asemantic nature of large language models and from human projections of emotional and cognitive states on machines, possibly leading to manipulation, spreading falsehoods or emotional distress. Enforcing this distinction requires unintrusive, yet easily accessible marks of the machine origin. We propose to implement a code based on equidistant letter sequences. While no such code exists in human-written texts, its appearance in machine-generated ones would prove helpful for ethical reasons.

研究の動機と目的

• AI生成テキストと人間の文章との区別がつかないという倫理的リスクに対処すること。
• 機械生成コンテンツの出所を明確にすることで、感情的操作や誤情報の拡散を防ぐこと。
• 人間とAIの著作者の区別を保つことで、デジタルコミュニケーションにおける人間の信頼を維持すること。
• 自然言語出力において不顕著ではあるが検出可能である水 Stam 付け技術を開発すること。
• 言語の固有の構造的パターンを活用して、意味の変更を伴わずに機械の出所を示すシステムを実装すること。

提案手法

• 人間の文章に見られないパターンである等間隔文字列（ELS）に基づく水 Stam 付け方式を提案する。
• 出力シーケンスにおいて固定間隔の文字を選んで、テキスト生成中に水 Stam を埋め込む。
• 読者には判別不能でありながら、計算的に検出可能であることを保証する。
• 決定論的アルゴリズムを用いて水 Stam を埋め込み・検証するため、信頼性の高い出所特定が可能である。
• 再表現やわずかなテキスト変更に対しても耐性を持つように水 Stam を設計する。
• 大規模言語モデルの出力にこの手法を適用し、倫理的透明性を維持する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして機械生成テキストに倫理的にマークを付けることで、人間の文章との区別を保てるか？
• RQ2 どのような水 Stam 付けメカニズムが自然言語において不顕著でありながら信頼性高く検出可能か？
• RQ3 人間の文章に等間隔文字列が存在しないことが、水 Stam 付けにとってなぜ有利か？
• RQ4 AI生成テキストが人間の文章と区別がつかない場合に生じる倫理的リスクは何か？
• RQ5 偽の認知的・感情的状態の帰属によって、AIが操作される可能性を水 Stam 付けがどのように軽減できるか？

主な発見

• 等間隔文字列は人間の文章では自然に発生しないため、機械の出所を示す信頼できるマーカーとなる。
• 水 Stam 付け手法はテキストの流暢さと読みやすさを保ちながら、合成コンテンツの検出を可能にする。
• 本手法はスケーラブルで決定論的な解決策を提供し、大規模なAI生成言語の識別に適している。
• ユーザーおよびシステムが生成テキストの出所を検証できるようにすることで、倫理的透明性を支援する。
• 本手法は、だまし、誤情報、感情的操縦といった、AIコミュニケーションに関する根本的な倫理的懸念に対処する。
• 水 Stam は再表現やわずかなテキストの変更に対しても耐性があり、長期にわたる検出可能性を確保する。