[논문 리뷰] Emergent Dark Patterns in AI-Generated User Interfaces

Daksh Pandey|arXiv (Cornell University)|2026. 01. 14.

Privacy, Security, and Data Protection인용 수 0

한 줄 요약

본 논문은 DarkPatternDetector를 소개합니다. 이는 AI가 생성하거나 적응하는 사용자 인터페이스에서 다크 패턴을 탐지하는 AI 기반 시스템이며, 큐레이션된 데이터셋에서 평가하고 인도 DPDP Act 2023에 대한 규제 정합성 분석을 수행합니다.

ABSTRACT

The advancement of artificial intelligence has transformed user interface design by enabling adaptive and personalized systems. Alongside these benefits, AI driven interfaces have also enabled the emergence of dark patterns, which are manipulative design strategies that influence user behavior for financial or business gain. As AI systems learn from data that already contains deceptive practices, they can replicate and optimize these patterns in increasingly subtle and personalized ways. This paper examines AI generated dark patterns, their psychological foundations, technical mechanisms, and regulatory implications in India. We introduce DarkPatternDetector, an automated system that crawls and analyzes websites to detect dark patterns using a combination of UI heuristics, natural language processing, and temporal behavioral signals. The system is evaluated on a curated dataset of dark and benign webpages and achieves strong precision and recall. By aligning detection results with India's Digital Personal Data Protection Act, 2023, this work provides a technical and regulatory framework for identifying and mitigating deceptive interface practices. The goal is to support ethical AI design, regulatory enforcement, and greater transparency in modern digital systems.

연구 동기 및 목표

• AI 지원 인터페이스가 다크 패턴을 재생산하고 강화할 수 있는지에 대한 연구 동기를 부여한다.
• AI 생성 UI에서 다크 패턴을 탐지하는 기술 시스템을 제안한다.
• 다크 패턴과 정상 페이지의 큐레이션 데이터셋에서 탐지 성능을 평가한다.
• 탐지 결과를 인도의 규제 프레임워크와 연결해 윤리적 설계 및 집행을 지원한다.

제안 방법

• DarkPatternDetector를 소개합니다. 이는 웹사이트용 자동 크롤러 및 분석기입니다.
• UI 휴리스틱 분석, 자연어 처리, 시간적 행동 신호를 결합합니다.
• 다크 및 정상 페이지의 큐레이션 데이터셋에서 시스템을 평가합니다.
• 탐지 결과를 2023년 인도 Digital Personal Data Protection Act와 정렬해 규제 함의를 제시합니다.

실험 결과

연구 질문

• RQ1 AI 지원 UI 디자인 관행 중 다크 패턴의 등장을 촉진하는 요인은 무엇인가?
• RQ2 자동화된 시스템이 적응형 AI 생성 인터페이스에서 다크 패턴을 얼마나 효과적으로 탐지할 수 있는가?
• RQ3 탐지 결과가 2023년 인도의 DPDP Act 하의 규제 요건에 어떻게 매핑되는가?

주요 결과

• DarkPatternDetector는 큐레이션 데이터셋에서 높은 정밀도와 재현율을 달성한다(초록에 특정 수치 제공되지 않음).
• 이 연구는 AI 생성 UI에서 기만적 인터페이스 관행을 탐지하기 위한 기술적 프레임워크를 제공한다.
• 연구는 규제 함의 및 인도 DPDP Act 2023과의 정합성을 논의하여 집행 및 투명성을 지원한다.
• AI 시스템은 학습한 데이터에서 기만적 관행을 재생산할 수 있어 더 미묘하고 개인화된 다크 패턴을 가능하게 한다.
• 본 논문은 접근법을 보여주는 15페이지와 5개의 그림을 포함한다.