[论文解读] What Makes a Dark Pattern... Dark? Design Attributes, Normative Considerations, and Measurement Methods

Arunesh Mathur, Jonathan Mayer+1 more|arXiv (Cornell University)|Jan 13, 2021

Privacy, Security, and Data Protection参考文献 52被引用 26

一句话总结

The paper reviews the dark patterns literature, showing a lack of a single definition or taxonomy, and proposes normative lenses and empirical methods to study dark patterns, demonstrated via a case study.

ABSTRACT

There is a rapidly growing literature on dark patterns, user interface designs -- typically related to shopping or privacy -- that researchers deem problematic. Recent work has been predominantly descriptive, documenting and categorizing objectionable user interfaces. These contributions have been invaluable in highlighting specific designs for researchers and policymakers. But the current literature lacks a conceptual foundation: What makes a user interface a dark pattern? Why are certain designs problematic for users or society? We review recent work on dark patterns and demonstrate that the literature does not reflect a singular concern or consistent definition, but rather, a set of thematically related considerations. Drawing from scholarship in psychology, economics, ethics, philosophy, and law, we articulate a set of normative perspectives for analyzing dark patterns and their effects on individuals and society. We then show how future research on dark patterns can go beyond subjective criticism of user interface designs and apply empirical methods grounded in normative perspectives.

研究动机与目标

• 梳理黑暗模式文献，鉴定定义、分类法与属性。
• 跨学科整合主题，理解对黑暗模式的规范性关切。
• 开发独立的规范性视角以指导未来的黑暗模式研究。
• 提出与规范性视角一致的实证方法并通过案例研究进行演示。

提出的方法

• 对跨越人机交互、法律、隐私和心理学的20篇论文及监管材料进行范围性综述。
• 对每份文献进行编码，属性包括：定义、分类法、规范性考量和用户研究。
• 将定义和分类法综合为两个总体主题：改变选择结构和信息流操控。
• 基于相关学科（心理学、经济学、伦理学、法律）建立规范性视角来评估黑暗模式。
• 通过案例研究演示所提出的方法，并讨论对研究人员和政策制定者的影响。

实验结果

研究问题

• RQ1 在文献中存在哪些关于黑暗模式的定义和分类？
• RQ2 其他学科的规范性视角如何为对黑暗模式的分析提供信息？
• RQ3 哪些测量方法与这些规范性视角一致，以便对黑暗模式进行实证研究？
• RQ4 研究人员如何在HCI中应用这些视角，以推进与政策相关的洞见？

主要发现

• 在出版物和监管报告中，关于黑暗模式的定义和分类存在显著的差异和不一致。
• 以往工作给出多种有时互不兼容的描述（如欺骗性、强制性或误导性），没有统一的基础。
• 出现两个主题核心：修改用户的选择集合（选择结构）和操控信息流。
• 这些主题在高层次上提供了一个连贯的描述性分类，但更细的定义使领域变得零散。
• 相关学科提供规范性视角来评估黑暗模式的伤害和对社会的影响。
• 作者提出与这些视角一致的规范性视角和实证方法，并通过案例研究加以演示。
• 该工作旨在为HCI从业者和政策制定者提供有关如何研究和应对黑暗模式关注点的信息。