[논문 리뷰] An Ontology of Dark Patterns Knowledge: Foundations, Definitions, and a Pathway for Shared Knowledge-Building

Colin M. Gray, Cristiana Santos외 2명|arXiv (Cornell University)|2023. 09. 18.

Privacy, Security, and Data Protection참고 문헌 26인용 수 5

한 줄 요약

이 논문은 저수준, 중수준, 고수준 카테고리로 구성된 3단계 온톨로지 표준을 제안하여 65종의 다크 패턴 유형을 표준화한다. 이는 10개의 기존 학술 및 규제 분류 체계를 융합하여 공통의 감사 가능한 지식 기반을 구축한다. 이 온톨로지는 정의를 통일하고, 탐지, 규제 및 법적 집행을 지원함으로써 다학제적 협업을 가능하게 하며, 확장 가능하고 맥락 인식 기반의 연구 및 정책 조치의 기초를 제공한다.

ABSTRACT

Deceptive and coercive design practices are increasingly used by companies to extract profit, harvest data, and limit consumer choice. Dark patterns represent the most common contemporary amalgamation of these problematic practices, connecting designers, technologists, scholars, regulators, and legal professionals in transdisciplinary dialogue. However, a lack of universally accepted definitions across the academic, legislative and regulatory space has likely limited the impact that scholarship on dark patterns might have in supporting sanctions and evolved design practices. In this paper, we seek to support the development of a shared language of dark patterns, harmonizing ten existing regulatory and academic taxonomies of dark patterns and proposing a three-level ontology with standardized definitions for 65 synthesized dark patterns types across low-, meso-, and high-level patterns. We illustrate how this ontology can support translational research and regulatory action, including pathways to extend our initial types through new empirical work and map across application domains.

연구 동기 및 목표

• 학술, 규제, 산업 분야에서 다크 패턴에 대한 보편적으로 수용된 정의가 부족하여 효과적인 정책 및 디자인 개선이 저해되는 문제를 해결한다.
• 10개의 기존 학술 및 규제 분류 체계를 융합하여 표준화된 정의를 갖춘 체계적이고 계층적인 온톨로지로 통합한다.
• 기원 출처에 대한 추적 기능을 갖춘 공통의 감사 가능한 지식 기반을 구축하여 다크 패턴 연구의 중복을 줄이고 재현 가능성을 향상시킨다.
• 연구자, 규제 기관, 법학자, 기술자 간의 다학제적 협업을 가능하게 하기 위해 공통의 개념적 프레임워크를 제공한다.
• 온톨로지와 실제 적용 사례, 법률 및 사례 법원 판결을 연결하여 번역 가능 연구 및 규제 조치를 지원한다.

제안 방법

• 다수의 기존 규제 및 학술 분류 체계를 비교 분석하여 공통점과 차이점을 규명한다.
• 3단계 계층적 온톨로지 구조를 제안: 저수준(예: 쿠키 배너와 같은 UI 요소), 중수준(예: 끈적거림과 같은 상호작용 패턴), 고수준(예: 조작과 같은 전략적 설계 목표).
• 65개의 통합된 다크 패턴 유형에 대해 표준화된 정의를 제시하여 명확성, 일관성 및 원천에 대한 추적 가능성을 확보한다.
• 각 패턴 유형에 대한 기원 추적 경로를 설정하여 감사 가능성과 인용의 모호성 감소를 도모한다.
• 온톨로지의 실용성을 사례 연구 4건을 통해 입증: 도메인 특화 연구, 탐지 도구, 규제 가이드라인, 사례 법원 판결과의 연계.
• 기존 법적 프레임워크 및 집행 사례(예: 유럽 연합 및 미국의 규제 조치, 법원 판결 등)를 맵핑하기 위해 온톨로지를 확장한다.

실험 결과

연구 질문

• RQ1 기존 학술 및 규제 분류 체계를 어떻게 통합하여 일관된 정의를 갖춘 통합된 표준 온톨로지로 만들 수 있는가?
• RQ2 저수준, 중수준, 고수준으로 구성된 3단계 계층적 구조가 다크 패턴의 확장 가능한 탐지, 규제 및 연구를 어떻게 지원하는가?
• RQ3 온톨로지는 연구자, 규제 기관, 법학자, 기술자 간의 다학제적 협업을 어떻게 지원할 수 있는가?
• RQ4 온톨로지는 유럽 연합의 디지털 서비스법 또는 미국 주 정부의 조치와 같은 기존 법률 및 집행 사례를 어떻게 맵핑할 수 있는가?
• RQ5 온톨로지는 향후 다크 패턴 연구의 중복을 줄이고 감사 가능성 및 재현 가능성을 어떻게 향상시킬 수 있는가?

주요 결과

• 저자들은 10개의 기존 분류 체계에서 유래한 65종의 다크 패턴 유형을 통합하여 명확한 정의와 기원 추적 기능을 갖춘 표준화된 계층적 온톨로지를 구축하였다.
• 저수준 다크 패턴(예: 사전 선택된 체크박스, 속임수 성 허락 배너 등)은 명확하고 관찰 가능한 UI 특성을 지니므로 자동 탐지에 가장 적합한 것으로 확인되었다.
• 온톨로지는 실제 연구 결과와 규제 가이드라인 간의 괴리를 드러내어 학술 연구와 규제 지침 간의 보다 나은 일치를 가능하게 하였다. 예를 들어, EU 규제 권고와 학술 연구 결과 간의 모순점을 규명하였다.
• 온톨로지는 특정 다크 패턴을 기존 법적 프레임워크 및 집행 조치와 맵핑함으로써 법적 추론을 지원한다. 예를 들어, 사전 선택된 허락 금지 또는 오해의 소지가 있는 데이터 수집 방식에 대한 EU의 금지 조치를 맵핑하였다.
• 이 프레임워크는 전문 분야(예: 전자상거래, 게임, 모바일 애플리케이션)에서의 새로운 경험적 연구를 통해 온톨로지를 확장함으로써 번역 가능 연구를 촉진한다.
• 규제 기관과 법학자들은 온톨로지를 활용해 명백한 피해를 초래하는 패턴(예: '끊임없는 유도'는 주목력 탈취 및 개인정보 위험 증가를 유도할 수 있음)을 우선적으로 집행 대상으로 삼을 수 있다.