[論文レビュー] Privacy Control in Conversational LLM Platforms: A Walkthrough Study

Zhuoyang Li, Yanlai Wu+3 more|arXiv (Cornell University)|Feb 11, 2026

Ethics and Social Impacts of AI被引用数 0

ひとこと要約

この論文は、エキスパート主導の手順に基づく six つの消費者向け対話型 LLM プラットフォームの実演を行い、インターフェースレベルでデータアクセス、編集、削除、共有の制御をどのように定義し実装しているかを文書化します。

ABSTRACT

Large language models (LLMs) are increasingly integrated into daily life through conversational interfaces, processing user data via natural language inputs and exhibiting advanced reasoning capabilities, which raises new concerns about user control over privacy. While much research has focused on potential privacy risks, less attention has been paid to the data control mechanisms these platforms provide. This study examines six conversational LLM platforms, analyzing how they define and implement features for users to access, edit, delete, and share data. Our analysis reveals an emerging paradigm of data control in conversational LLM platforms, where user data is generated and derived through interaction itself, natural language enables flexible yet often ambiguous control, and multi-user interactions with shared data raise questions of co-ownership and governance. Based on these findings, we offer practical insights for platform developers, policymakers, and researchers to design more effective and usable privacy controls in LLM-powered conversational interactions.

研究の動機と目的

• 六つの広く使用されている対話型 LLM プラットフォームがインターフェースレベルでプライバシーポリシーと制御をどのように提示しているかを調査する。
• ユーザーデータを管理するために使用されるデータ単位、制御オプション、実行メカニズムを特定する。
• アカウント状態（サインアウト、サインイン済み無料金、サインイン済み有料）および複数ユーザー間のデータ共有シナリオにおける差異を検討する。
• LLM を活用した会話における使いやすいプライバシーを改善するための開発者と政策立案者への実践的な洞察を提供する。

提案手法

• Light et al., 2018 の専門家主導のアプリケーションウォークスルーを六つのプラットフォームに適用する：Character.ai、ChatGPT、Claude、Gemini、Meta AI、Pi。
• 三段階のプラットフォーム識別プロセスを実施する：検索、消費者向けプラットフォームへの遡り、含有基準のスクリーニング。
• 使用環境（ビジョン、運用モデル、ガバナンス）を分析し、データ制御メカニズム（アクセス、編集、削除、共有）の技術的ウォークスルーを実施する。
• インターフェースレベルのデータ制御機能をスクリーンショットとフィールドノートで文書化し、バックエンドメカニズムよりも可視制御に焦点を当てる。
• サインアウト、サインイン済み無料金、サインイン済み有料のユーザー視点を比較して、アカウント状態による差異を明らかにする。
• プラットフォーム固有のレイアウト（例：CUI、サイドパネル、メモリ機能）に対応するためにウォークスループロトコルを洗練する。

実験結果

リサーチクエスチョン

• RQ1 対話型 LLM プラットフォームはデータ実践をどのように統治し、ユーザーがデータを管理するための制御をどのように提供しているのか。
• RQ2 これらのプラットフォームはインターフェースレベルでどのようなプライバシー制御メカニズム（アクセス、編集、削除、共有）を公開し、それはどのように実行されているのか。
• RQ3 プラットフォームの機能は、ユーザー状態（サインアウト、サインイン済み無料金、サインイン済み有料）および複数ユーザー間のデータ共有シナリオでどう異なるのか。
• RQ4 対話型 LLM におけるデータ単位、自然言語ベースの制御、ガバナンスの設計パターンはどのように現れるのか。

主な発見

• プラットフォームは、ユーザーデータのアクセス、編集、削除、共有が誰に、何を、どのように、どこで可能かを規定する異なるプライバシー制御メカニズムを示す。
• データ単位と制御実行は、インターフェース構造と機能セット（例：メモリウィジェット、共有リンク、カスタマイズストア）の違いによりプラットフォームごとに異なる。
• 自然言語インターフェースは柔軟な制御を可能にする一方で、データの管理と統治方法に曖昧さを生む可能性がある。
• 複数ユーザーのデータ共有は統治と共同所有の問題を提起し、 clearer な跨ユーザー制御とポリシーの必要性を浮き彫りにする。
• ウォークスルーは対話型 LLM におけるプライバシー管理の新興デザインパラダイムを特定し、開発者と政策立案者への実証的根拠に基づく示唆を提供する。