[论文解读] Emergent Dark Patterns in AI-Generated User Interfaces

Daksh Pandey|arXiv (Cornell University)|Jan 14, 2026

Privacy, Security, and Data Protection被引用 0

一句话总结

论文提出了 DarkPatternDetector，一种基于 AI 的系统，用于检测 AI 生成/自适应用户界面的暗模式，并在经过筛选的数据集上进行评估，同时对印度的 DPDP Act 2023 进行监管对齐分析。

ABSTRACT

The advancement of artificial intelligence has transformed user interface design by enabling adaptive and personalized systems. Alongside these benefits, AI driven interfaces have also enabled the emergence of dark patterns, which are manipulative design strategies that influence user behavior for financial or business gain. As AI systems learn from data that already contains deceptive practices, they can replicate and optimize these patterns in increasingly subtle and personalized ways. This paper examines AI generated dark patterns, their psychological foundations, technical mechanisms, and regulatory implications in India. We introduce DarkPatternDetector, an automated system that crawls and analyzes websites to detect dark patterns using a combination of UI heuristics, natural language processing, and temporal behavioral signals. The system is evaluated on a curated dataset of dark and benign webpages and achieves strong precision and recall. By aligning detection results with India's Digital Personal Data Protection Act, 2023, this work provides a technical and regulatory framework for identifying and mitigating deceptive interface practices. The goal is to support ethical AI design, regulatory enforcement, and greater transparency in modern digital systems.

研究动机与目标

• 激励研究 AI 驱动界面如何再现并强化暗模式的研究动机。
• 提出一个检测 AI 生成 UI 中暗模式的技术系统。
• 在经过筛选的暗模式与良性网页数据集上评估检测性能。
• 将检测结果与印度的监管框架对齐，以支持伦理设计与执法。

提出的方法

• 引入 DarkPatternDetector，一种用于网站的自动抓取与分析工具。
• 结合 UI 经验规则分析、自然语言处理与时间行为信号。
• 在经过筛选的暗模式与良性网页数据集上评估系统。
• 使检测结果与印度 Digital Personal Data Protection Act, 2023 对齐，提出监管含义。

实验结果

研究问题

• RQ1 哪些 AI 驱动的 UI 设计实践促成了暗模式的出现？
• RQ2 自动化系统在自适应 AI 生成界面中检测暗模式的有效性如何？
• RQ3 检测结果如何映射到印度 DPDP Act 2023 下的监管要求？

主要发现

• DarkPatternDetector 在经过筛选的数据集上实现了较高的 precisión 和召回率（摘要未提供具体指标）。
• 该工作提供了检测 AI 生成 UI 中欺骗性界面实践的技术框架。
• 研究讨论了监管含义并与印度 DPDP Act 2023 的对齐，以支持执法和透明度。
• AI 系统可以从所学习的数据中再现欺骗性做法，进而产生更隐蔽、个性化的暗模式。
• 论文包含 15 页和 5 张图，展示了该方法。