[논문 리뷰] Privacy Control in Conversational LLM Platforms: A Walkthrough Study

Zhuoyang Li, Yanlai Wu외 3명|arXiv (Cornell University)|2026. 02. 11.

Ethics and Social Impacts of AI인용 수 0

한 줄 요약

이 논문은 데이터 접근, 편집, 삭제 및 공유 제어를 인터페이스 수준에서 어떻게 정의하고 구현하는지 문서화하기 위해 여섯 개의 소비자 대상 대화형 LLM 플랫폼에 대해 전문가 주도 워크스루를 수행한다.

ABSTRACT

Large language models (LLMs) are increasingly integrated into daily life through conversational interfaces, processing user data via natural language inputs and exhibiting advanced reasoning capabilities, which raises new concerns about user control over privacy. While much research has focused on potential privacy risks, less attention has been paid to the data control mechanisms these platforms provide. This study examines six conversational LLM platforms, analyzing how they define and implement features for users to access, edit, delete, and share data. Our analysis reveals an emerging paradigm of data control in conversational LLM platforms, where user data is generated and derived through interaction itself, natural language enables flexible yet often ambiguous control, and multi-user interactions with shared data raise questions of co-ownership and governance. Based on these findings, we offer practical insights for platform developers, policymakers, and researchers to design more effective and usable privacy controls in LLM-powered conversational interactions.

연구 동기 및 목표

• 여섯 개의 널리 사용되는 대화형 LLM 플랫폼이 인터페이스 수준에서 프라이버시 정책과 제어를 어떻게 제시하는지 조사한다.
• 사용자 데이터를 관리하기 위해 사용되는 데이터 단위, 제어 옵션 및 실행 메커니즘을 식별한다.
• 계정 상태(signed-out, signed-in unpaid, signed-in paid) 간의 차이 및 다중 사용자 데이터 공유 시나리오를 검토한다.
• LLM 기반 대화에서 사용 가능한 프라이버시를 개선하기 위한 개발자 및 정책 결정자를 위한 실행 가능한 시사점을 제시한다.

제안 방법

• 전문가 주도 애플리케이션 워크스루(Light et al., 2018)를 여섯 플랫폼에 적용한다: Character.ai, ChatGPT, Claude, Gemini, Meta AI, 및 Pi.
• 검색, 소비자 대상 플랫폼으로의 추적, 포함 기준 스크리닝의 세 단계 플랫폼 식별 과정을 수행한다.
• 사용 환경(비전, 운영 모델, 거버넌스)을 분석하고 데이터 제어 메커니즘(접근, 편집, 삭제, 공유)에 대한 기술적 워크스루를 수행한다.
• 스크린샷과 현장 메모를 활용하여 인터페이스 수준의 데이터 제어 기능을 문서화하되 백엔드 메커니즘보다는 보이는 제어에 초점을 맞춘다.
• signed-out, signed-in unpaid, 및 signed-in paid 사용자 관점을 비교하여 계정 상태별 차이를 밝힌다.
• 플랫폼 특정 레이아웃(CUI, 사이드 패널, 메모리 기능 등)에 맞게 워크스루 프로토콜을 정제한다.

실험 결과

연구 질문

• RQ1 대화형 LLM 플랫폼은 데이터 처리 방식을 어떻게 관리하고 사용자가 데이터를 관리할 수 있도록 어떤 제어를 제공하는가?
• RQ2 이 플랫폼들은 인터페이스 수준에서 어떤 프라이버시 제어 메커니즘(접근, 편집, 삭제, 공유)을 노출하며, 그것들이 어떻게 실행되는가?
• RQ3 플랫폼 기능은 사용자 상태(signed-out, signed-in unpaid, signed-in paid) 및 다중 사용자 데이터 공유 시나리오에서 어떻게 다른가?
• RQ4 대화형 LLM에서 데이터 단위, 자연어 기반 제어, 거버넌스에 대해 어떤 설계 패턴이 나타나는가?

주요 결과

• 플랫폼은 누가, 무엇을, 어떻게, 어디에서 사용자 데이터를 접근, 편집, 삭제 또는 공유할 수 있는지에 관여하는 뚜렷한 프라이버시 제어 메커니즘을 보여준다.
• 데이터 단위와 제어 실행은 인터페이스 아키텍처와 기능 세트(예: 기억 위젯, 공유 링크, 커스터마이즈 스토어)가 다르기 때문에 플랫폼 간에 다양하게 나타난다.
• 자연어 인터페이스는 유연한 제어를 가능하게 하지만 데이터 관리 및 거버넌스 방식에 모호성을 가져올 수 있다.
• 다중 사용자 데이터 공유는 거버넌스 및 공동 소유권 문제를 제기하며 더 명확한 다중 사용자 제어 및 정책의 필요성을 강조한다.
• 이 워크스루는 대화형 LLM에서 프라이버시 관리의 신흥 설계 패러다임을 식별하고 개발자 및 정책 입안자에게 실증에 기반한 시사점을 제시한다.