[论文解读] Circumvention by design -- dark patterns in cookie consents for online news outlets

Than Htut Soe, Oda Elise Nordberg+2 more|arXiv (Cornell University)|Jun 24, 2020

Privacy, Security, and Data Protection被引用 4

一句话总结

本研究手动分析了北欧及英语国家在线新闻媒体的300则Cookie同意通知，发现99%（297例）使用了暗黑模式——即通过操纵用户选择来规避GDPR意图的欺骗性用户界面设计。该论文在同意界面中识别出八种不同的暗黑模式类型，强调需要对用户界面设计进行监管，以保护用户在数据同意决策中的自主权。

ABSTRACT

To ensure that users of online services understand what data are collected and how they are used in algorithmic decision-making, the European Union's General Data Protection Regulation (GDPR) specifies informed consent as a minimal requirement. For online news outlets consent is commonly elicited through interface design elements in the form of a pop-up. We have manually analyzed 300 data collection consent notices from news outlets that are built to ensure compliance with GDPR. The analysis uncovered a variety of strategies or dark patterns that circumvent the intent of GDPR by design. We further study the presence and variety of these dark patterns in these "cookie consents" and use our observations to specify the concept of dark pattern in the context of consent elicitation.

研究动机与目标

• 调查在线新闻媒体在遵守GDPR方面如何实施Cookie同意通知。
• 识别并分类用于此类同意界面中、以削弱知情用户同意的暗黑模式。
• 检查在新闻媒体因其在促进真相与信任方面的社会角色背景下，伦理设计原则是否在同意机制中得到遵守。
• 主张用户界面设计必须与数据处理一同受到监管，以确保隐私法律下的真正用户控制。
• 提供一个手动整理的数据集，并构建适用于新闻网站同意获取场景的暗黑模式精细化分类体系。

提出的方法

• 对北欧及英语新闻媒体的300则Cookie同意通知进行了人工、定性的分析。
• 以Gray等人（2018）的暗黑模式框架作为理论视角，识别欺骗性设计策略。
• 基于强制持续性、隐私祖克尔（privacy Zuckers）和伪装广告等行为操控技术对观察到的模式进行分类。
• 评估设计复杂性，包括拒绝同意所需的努力程度、文本清晰度以及退出机制的可访问性。
• 通过在笔记本电脑上基于浏览器的检查方式收集数据，模拟首次用户交互过程。
• 提出一个针对同意情境的暗黑模式精细化定义，强调其可检测性与设计特异性，以支持未来自动化检测。

实验结果

研究问题

• RQ1 尽管有GDPR要求，在线新闻媒体在Cookie同意界面中在多大程度上使用了暗黑模式？
• RQ2 在新闻网站的同意通知中，哪些具体的暗黑模式类型最为普遍？
• RQ3 同意界面中的设计选择在多大程度上影响了用户有意义地拒绝数据收集的能力？
• RQ4 同意通知的设计特征在哪些方面违背了GDPR所规定的知情且自由给予同意的原则？
• RQ5 能否从人工识别的示例中，构建一个标准化、机器可读的暗黑模式分类体系，以供监管和技术应用？

主要发现

• 在分析的300则Cookie同意通知中，有297例（99%）至少使用了一种暗黑模式，表明操纵性用户界面设计几乎普遍存在。
• 最普遍的暗黑模式包括强制持续性（例如，要求用户点击“接受”才能继续）、隐私祖克尔（例如，使用“我理解”等误导性标签代替“拒绝”或“取消”）以及伪装广告（例如，使“接受”按钮比“拒绝”更显眼）。
• 在300则同意通知中，仅有3例允许用户轻松拒绝同意而无需付出显著交互努力，凸显了系统性设计障碍。
• Cookie用途和类别的文字描述往往模糊不清或完全缺失，降低了透明度并损害了知情决策。
• 研究未发现用户后续更改其同意偏好的一致或可访问机制的证据，从而削弱了长期用户控制能力。
• 作者提出一个经过优化的、可操作的暗黑模式定义，其特征既清晰可识别，也适合未来实现自动化检测。