[論文レビュー] Emergent Dark Patterns in AI-Generated User Interfaces

Daksh Pandey|arXiv (Cornell University)|Jan 14, 2026

Privacy, Security, and Data Protection被引用数 0

ひとこと要約

本論文はDarkPatternDetectorというAI生成/UI検出システムを提案し、厳選データセット上でダークパターンを検出・評価し、インドのDPDP法2023に基づく規制適合分析を行う。

ABSTRACT

The advancement of artificial intelligence has transformed user interface design by enabling adaptive and personalized systems. Alongside these benefits, AI driven interfaces have also enabled the emergence of dark patterns, which are manipulative design strategies that influence user behavior for financial or business gain. As AI systems learn from data that already contains deceptive practices, they can replicate and optimize these patterns in increasingly subtle and personalized ways. This paper examines AI generated dark patterns, their psychological foundations, technical mechanisms, and regulatory implications in India. We introduce DarkPatternDetector, an automated system that crawls and analyzes websites to detect dark patterns using a combination of UI heuristics, natural language processing, and temporal behavioral signals. The system is evaluated on a curated dataset of dark and benign webpages and achieves strong precision and recall. By aligning detection results with India's Digital Personal Data Protection Act, 2023, this work provides a technical and regulatory framework for identifying and mitigating deceptive interface practices. The goal is to support ethical AI design, regulatory enforcement, and greater transparency in modern digital systems.

研究の動機と目的

• AI対応インターフェースがダークパターンを再現・強化する可能性の動機づけ。
• AI生成UIにおけるダークパターンを検出する技術システムの提案。
• ダークページと善意ページの厳選データセットで検出性能を評価。
• 検出結果をインドの規制枠組みとリンクさせ、倫理設計と執行を支援。

提案手法

• DarkPatternDetector（自動クローラおよびウェブサイト分析ツール）を導入。
• UIヒューリスティック分析、自然言語処理、時間的行動信号を組み合わせ。
• ダークページと善意ページの厳選データセットでシステムを評価。
• 検出結果をインドのDigital Personal Data Protection Act, 2023と整合させ、規制上の含意を提案。

実験結果

リサーチクエスチョン

• RQ1 AI対応UI設計実践のうち、ダークパターンの出現を促進する要因は何か。
• RQ2 自動化システムは適応型AI生成UIにおけるダークパターンをどの程度検出できるか。
• RQ3 DPDP Act 2023の規制要件に検出結果はどう対応するか。

主な発見

• DarkPatternDetectorは厳選データセットで高い精度と再現率を達成する（要約には具体的指標が提供されていない）。
• AI生成UIにおける欺瞞的なインタフェース慣行を検出する技術的枠組みを提供する。
• 研究は規制上の含意とインドのDPDP Act 2023への整合を議論し、執行と透明性を支援する。
• AIシステムは学習データからの欺瞞的慣行を再現できるため、より微妙で個別化されたダークパターンを生み出す可能性がある。
• 本論文には15ページと5つの図が含まれ、アプローチを示す。