[論文レビュー] Personhood credentials: Artificial intelligence and the value of privacy-preserving tools to distinguish who is real online

Steven Adler, Zoë Hitzig+30 more|arXiv (Cornell University)|Aug 15, 2024

Ethics and Social Impacts of AI被引用数 7

ひとこと要約

本論文は、アイデンティティを開示せずにユーザーが実在の人物であることを証明するプライバシー保護型のデジタル資格情報である“人格証明（PHCs）”を提案し、AI主導のオンライン詐欺に対抗しつつプライバシーを保護する。

ABSTRACT

Anonymity is an important principle online. However, malicious actors have long used misleading identities to conduct fraud, spread disinformation, and carry out other deceptive schemes. With the advent of increasingly capable AI, bad actors can amplify the potential scale and effectiveness of their operations, intensifying the challenge of balancing anonymity and trustworthiness online. In this paper, we analyze the value of a new tool to address this challenge: "personhood credentials" (PHCs), digital credentials that empower users to demonstrate that they are real people -- not AIs -- to online services, without disclosing any personal information. Such credentials can be issued by a range of trusted institutions -- governments or otherwise. A PHC system, according to our definition, could be local or global, and does not need to be biometrics-based. Two trends in AI contribute to the urgency of the challenge: AI's increasing indistinguishability from people online (i.e., lifelike content and avatars, agentic activity), and AI's increasing scalability (i.e., cost-effectiveness, accessibility). Drawing on a long history of research into anonymous credentials and "proof-of-personhood" systems, personhood credentials give people a way to signal their trustworthiness on online platforms, and offer service providers new tools for reducing misuse by bad actors. In contrast, existing countermeasures to automated deception -- such as CAPTCHAs -- are inadequate against sophisticated AI, while stringent identity verification solutions are insufficiently private for many use-cases. After surveying the benefits of personhood credentials, we also examine deployment risks and design challenges. We conclude with actionable next steps for policymakers, technologists, and standards bodies to consider in consultation with the public.

研究の動機と目的

• プライバシーと市民的自由を侵害せずに、AI主導のオンライン詐欺を阻止する必要性を喚起する。
• 人格証明（PHCs）の概念と基本要件を定義する。
• PHCs がソックpuppeting、ボットネット、AIエージェントによる虚偽表現をどのように減少させ得るかを主張する。
• 既存の対策とPHCsを比較し、展開上の課題とガバナンス上の考慮点を特定する。
• PHCsを推進するための政策立案者、技術者、標準化機関への実行可能な具体策を提案する。

提案手法

• 識別不能性とスケーラビリティに関するオンライン詐欺とAI駆動の脅威の実態を調査する。
• PHCsを定義し、二つの基本的要件を形式化する：資格情報の制限とリンク不可能な偽名性。
• PHCsを匿名資格情報および人格証明の概念のより広いエコシステムの中に位置づける。
• PHCs が既存の対策（CAPTCHAs、経済的障壁、AI コンテンツ検出、外観/文書検証）を補完または改善するかを評価する。
• 公平なアクセス、表現の自由、権力の抑制、攻撃への耐性を含む設計・ガバナンス・展開上の考慮点を概説する。

実験結果

リサーチクエスチョン

• RQ1 人格証明（PHCs）は何か、そして個人の身元を明かさずに実在人物との対話を示す信号としてどう用いられるか？
• RQ2 PHCs はユーザーのプライバシーとサービス間のリンク不可性を維持しつつ、AI 主導の詐欺にどう対処できるか？
• RQ3 PHCs を効果的かつ安全に展開するために必要な主要設計要件とガバナンス上の考慮点は何か？
• RQ4 詐欺対策において、PHCs は既存ツール（CAPTCHAs、 paid access、コンテンツ透かし、生体認証）とどう比較されるか？
• RQ5 政策立案者・技術者・標準化機関はPHCsを試験導入・採用するために具体的にどのような手順を取るべきか？

主な発見

• PHCsは、リンク不可能な偽名と資格情報の制限を用いることで、身元を開示せずに個人ごとの検証を可能にする。
• PHCsは暗号的証明に基づき、実在の人間とAIを動かす主体を区別する。識別不能性とスケーラビリティの問題の双方に対処する。
• PHCsはソックパペティング、ボット攻撃、AIエージェントによる虚偽表示を、CAPTCHAsや生体認証のような従来の方法よりも堅牢に緩和できる。
• PHCsは既存の対策を補完するが置換するものではなく、プライバシーを保護する利点と慎重な設計を要する潜在的な脆弱性を強調する。
• 本論文は、公正なアクセス、表現の自由の保護、権力の抑制を含むガバナンスと展開上の課題を概説し、公共の利害関係者に対する次の一歩の行動を提案する。
• 発行者が複数存在するエコシステムとオフライン検証コンポーネントを強調し、資格情報の偽造を防ぎ堅牢性を高める。

Figure 1 : Personhood credentials rely on two deficits of AI.