[论文解读] An Ontology of Dark Patterns Knowledge: Foundations, Definitions, and a Pathway for Shared Knowledge-Building

Colin M. Gray, Cristiana Santos+2 more|arXiv (Cornell University)|Sep 18, 2023

Privacy, Security, and Data Protection参考文献 26被引用 5

一句话总结

本文提出了一种三级本体论，对低、中、高三个层级的65种暗黑模式类型进行标准化，综合了十个现有的学术与监管分类体系，构建了一个共享的、可审计的知识库。该本体论通过统一定义、支持检测、监管与法律执行，为可扩展的、上下文感知的研究与政策行动提供了基础，促进了跨学科协作。

ABSTRACT

Deceptive and coercive design practices are increasingly used by companies to extract profit, harvest data, and limit consumer choice. Dark patterns represent the most common contemporary amalgamation of these problematic practices, connecting designers, technologists, scholars, regulators, and legal professionals in transdisciplinary dialogue. However, a lack of universally accepted definitions across the academic, legislative and regulatory space has likely limited the impact that scholarship on dark patterns might have in supporting sanctions and evolved design practices. In this paper, we seek to support the development of a shared language of dark patterns, harmonizing ten existing regulatory and academic taxonomies of dark patterns and proposing a three-level ontology with standardized definitions for 65 synthesized dark patterns types across low-, meso-, and high-level patterns. We illustrate how this ontology can support translational research and regulatory action, including pathways to extend our initial types through new empirical work and map across application domains.

研究动机与目标

• 解决学术界、监管机构与产业界在暗黑模式定义上缺乏普遍接受标准的问题，该问题阻碍了有效政策与设计改革。
• 将十个现有的学术与监管分类体系中的暗黑模式整合为一个连贯的、分层的本体论，并赋予标准化定义。
• 建立一个共享的、可审计的知识库，具备来源追溯功能，以减少重复工作并提高暗黑模式研究的可复现性。
• 通过提供一个共同的概念框架，促进研究人员、监管机构、法律学者与技术专家之间的跨学科协作。
• 通过将本体论与现实世界应用、立法和判例法相连接，支持转化性研究与监管行动。

提出的方法

• 对十个现有的暗黑模式学术与监管分类体系进行比较分析，以识别其共性与差异。
• 提出一个三级分层本体论：低层级（如Cookie提示栏等用户界面元素）、中层级（如持续催促等交互模式）、高层级（如操纵等战略设计目标）。
• 为65种综合得出的暗黑模式类型制定了标准化定义，确保清晰性、一致性和对原始来源的可追溯性。
• 为每种模式类型建立来源追踪路径，以支持可审计性并减少引用模糊性。
• 通过四个案例研究展示本体论的实用性，将其与领域特定的研究、检测工具、监管指南及判例法相联系。
• 将本体论扩展至映射现有法律框架与执法案例，例如欧盟与美国的监管行动及法院判决。

实验结果

研究问题

• RQ1 如何将现有的学术与监管分类体系中的暗黑模式统一为一个具有统一定义的标准化本体论？
• RQ2 三级分层结构（低、中、高层级）在实现暗黑模式的可扩展检测、监管与研究方面发挥何种作用？
• RQ3 本体论如何支持研究人员、监管机构、法律学者与技术专家之间的跨学科协作？
• RQ4 本体论在何种方式下可被扩展以映射现有立法与执法案例，例如欧盟《数字服务法》或美国各州的执法行动？
• RQ5 本体论如何减少重复工作，并提高未来暗黑模式研究的可审计性与可复现性？

主要发现

• 作者从十个现有分类体系中综合出65种独特的暗黑模式类型，构建了一个具有清晰定义与来源追踪功能的标准化分层本体论。
• 低层级暗黑模式——如预勾选复选框与欺骗性同意提示栏——因其离散且可观察的用户界面特征，最易于实现自动化检测。
• 本体论通过揭示学术研究发现与欧盟监管建议之间的差距与矛盾，实现了对实证研究与监管指南之间更好对齐。
• 本体论通过将特定暗黑模式映射至现有法律框架与执法行动（如欧盟禁止预设同意或误导性数据收集行为），支持法律推理。
• 该框架通过支持在电子商务、游戏和移动应用等新领域能够开展新的实证工作，促进了转化性研究。
• 监管机构与法律学者可利用本体论优先针对具有明确危害的模式开展执法，例如‘持续催促’（Nagging）可能导致注意力掠夺与隐私风险上升。