[论文解读] Automated detection of dark patterns in cookie banners: how to do it poorly and why it is hard to do it any other way

Than Htut Soe, Cristiana Santos+1 more|arXiv (Cornell University)|Apr 21, 2022

Digital Media Forensic Detection被引用 17

一句话总结

本文提出一种监督式机器学习方法，利用人工标注的300个新闻网站cookie横幅数据集，自动检测五类暗黑模式。尽管准确率表现良好但仍有提升空间，该研究揭示了特征工程、数据集质量以及暗黑模式认知复杂性方面的重大跨学科挑战，主张采用领域特定、多模态的检测流水线，并建立针对视觉和文本内容的精选数据集。

ABSTRACT

Cookie banners, the pop ups that appear to collect your consent for data collection, are a tempting ground for dark patterns. Dark patterns are design elements that are used to influence the user's choice towards an option that is not in their interest. The use of dark patterns renders consent elicitation meaningless and voids the attempts to improve a fair collection and use of data. Can machine learning be used to automatically detect the presence of dark patterns in cookie banners? In this work, a dataset of cookie banners of 300 news websites was used to train a prediction model that does exactly that. The machine learning pipeline we used includes feature engineering, parameter search, training a Gradient Boosted Tree classifier and evaluation. The accuracy of the trained model is promising, but allows a lot of room for improvement. We provide an in-depth analysis of the interdisciplinary challenges that automated dark pattern detection poses to artificial intelligence. The dataset and all the code created using machine learning is available at the url to repository removed for review.

研究动机与目标

• 探究使用监督式机器学习检测cookie横幅中暗黑模式的可行性。
• 识别并分析使用人工智能自动化检测暗黑模式所面临的跨学科挑战。
• 评估梯度提升树分类器在人工标注的cookie横幅数据集上的性能。
• 突出当前数据集和特征工程在实现可靠自动化检测方面的局限性。
• 提出未来工作的路线图，包括领域特定、多模态的检测流水线。

提出的方法

• 使用来自新闻网站的300个cookie横幅数据集，每个横幅被标注为15种可能的暗黑模式类别之一（5种类型 × 3个置信度级别）。
• 应用特征工程从横幅中提取结构和文本特征，包括位置、文本量、按钮数量以及用户界面设计元素。
• 通过网格搜索进行超参数调优，训练梯度提升树分类器以优化模型性能。
• 使用标准指标进行模型评估，结果显示准确率中等，但仍有显著提升空间。
• 该方法将每个cookie横幅视为一个由混合类型特征（数值型、类别型、文本型）组成的向量表示。
• 本研究强调需要开发领域特定、多模态的流水线，尤其是针对视觉和语言线索，超越当前单一模态的模型。

实验结果

研究问题

• RQ1 监督式机器学习能否在大规模场景下有效检测cookie横幅中的暗黑模式？
• RQ2 构建可靠训练数据集用于暗黑模式检测的关键挑战是什么？
• RQ3 特征工程和数据质量如何影响机器学习模型在检测暗黑模式时的性能？
• RQ4 为何即使使用先进的AI技术，暗黑模式的自动化检测本质上仍具挑战性？
• RQ5 未来自动化暗黑模式检测系统发展的最有前景方向是什么？

主要发现

• 训练后的梯度提升树模型取得了有希望但未达最优的准确率，表明当前方法尚不足以在真实场景中稳定部署。
• 所用数据集规模小且类别不平衡，不同暗黑模式类型的出现频率差异显著，严重影响模型泛化能力。
• 特征工程被证明极具挑战性，因为原始数据集并未设计用于区分特定类型的暗黑模式，限制了模型的判别能力。
• 研究发现缺乏清晰可区分的特征，无法可靠区分暗黑模式，原因在于“发现”数据集中缺乏工程化特征。
• 作者得出结论：检测暗黑模式是一项复杂的认知任务，需要人机交互与认知科学的专业知识，而不仅仅是技术性AI方法。
• 未来工作应聚焦于为视觉和文本内容创建经筛选的、领域特定的数据集，并设计可检测特定暗黑模式类型的功能。