[論文レビュー] From Defense to Advocacy: Empowering Users to Leverage the Blind Spot of AI Inference

Yumou Wei, John Carney+2 more|arXiv (Cornell University)|Jan 16, 2026

Ethics and Social Impacts of AI被引用数 0

ひとこと要約

要約は、プライバシー保護を防御的な通知と同意から積極的なプライバシー提唱へシフトし、AI推論から導かれるブラインド・セル情報を明らかにし活用するPersonal Advocacy Agentsを導入するという主張である。

ABSTRACT

Most privacy regulations function as a passive defensive shield that users must wield themselves. Users are incessantly asked to "opt-in" or "opt-out" of data collection, forced to make defensive decisions whose consequences are increasingly difficult to predict. Viewed through the Johari Window, a psychological framework of self-awareness based on what is known and unknown to self and others, current policies require users to manage the Open Self and shield the Hidden Self through notice and consent. However, as organizations increasingly use AI to make inferences, the rapid expansion of Blind Self, attributes known to algorithms but unknown to the user, emerges as a critical challenge. We illustrate how current regulations fall short because they focus on data collection rather than inference and leave this blind spot unguarded. Building on the theory of Contextual Integrity, we propose a paradigm shift from defensive privacy management to proactive privacy advocacy. We argue for the necessity of personal advocacy agents capable of operationalizing social norms to harness the power of AI inference. By illuminating the hidden inferences that users can strategically leverage or suppress, these agents not only restrain the growth of Blind Self but also mine it for value. By transforming the Unknown Self into a personal asset for users, we can foster a flow of personal information that is equitable, transparent, and individually beneficial in the age of AI.

研究の動機と目的

• 現在のプライバシー規制がAI推論とブラインド・セルの拡大にどのように対応できていないかを批判的に分析する。
• 防御的なプライバシー管理から積極的なプライバシー提唱へのパラダイムシフトを提案する。
• 推論属性を明らかにし、解釈し、戦略的に管理するPersonal Advocacy Agents（PAA）の概念を導入する。
• Contextual Integrityに基づく提唱アプローチを、情報の流れを社会的規範に合わせるようにアンカーする。
• AI推論の時代における統治・透明性・ユーザー主体の影響を概説する。

提案手法

• Johari Windowフレームワークを用いて規制構造（政府機関、組織、制度）を批判的に分析し、Blind SelfとUnknown Selfのギャップを特定する。
• PAAを用いたオンデバイス・ fiduciary風機構としてのPrivacy Advocacyの概念的枠組みを提案する。
• PAAの推論監査機能を説明し、リアルタイムでユーザーのデータから潜在的な推論を模擬する。
• 不透明な推論シナリオにおいて文脈推論を近似することでContextual Integrityをどう支えるかを論じる。
• ユーザー中心の自己情報モデリングを強調するため、透明性ツールやダッシュボードと提唱を対比する。

実験結果

リサーチクエスチョン

• RQ1 現在のプライバシー規制のどの構造的欠陥がAI推論とブラインド・セルの拡大に対処できていないのか？
• RQ2 Personal Advocacy Agentはユーザーがデータから推論を理解し、戦略的に管理する力をどう与えられるのか？
• RQ3 Contextual Integrityは、プライバシー統治における防御から提唱への移行をどのように支援・制約するのか？
• RQ4 AI対応環境で、プライバシーを認識論的権力として再定義することは、統治・透明性・同意の実践をどう変えるのか？

主な発見

• 現在のプライバシー体制はデータ収集と通知/同意に焦点を当てており、推論とブラインド・セルは十分に保護されていない。
• Johari Window分析はOpen、Hidden、Blind、Unknownの4つの自己認識象限を示し、Blind Selfを成長するプライバシーリスクとして強調する。
• Personal Advocacy Agentsの導入によりオンデバイスで推論を監査し、Blind Self属性を明らかにし、情報を活用または抑制する戦略を提供できる。
• プライバシー提唱は、システム中心の説明から、自己透明性（自分がどうモデリングされているか）に焦点を移す。
• 提唱はプライバシーを二値的な防御から規範的な資源管理パラダイムへ転換し、AI推論文脈における公平性とコントロールを改善する可能性がある。