[논문 리뷰] Dark Patterns at Scale: Findings from a Crawl of 11K Shopping Websites

Arunesh Mathur, Güneş Acar외 5명|Lirias (KU Leuven)|2019. 07. 16.

Cybercrime and Law Enforcement Studies참고 문헌 45인용 수 99

한 줄 요약

본 논문은 11K 개의 쇼핑 사이트에 걸쳐 다크 패턴을 대규모로 탐지하는 자동화 기술을 제시하여 1,818건의 사례와 7개 범주에서 15개의 패턴 분류체계를 도출합니다. 또한 기만적 행위와 제3자 공급자를 식별하고 연구자와 규제기관을 위한 데이터와 도구를 제공합니다.

ABSTRACT

Dark patterns are user interface design choices that benefit an online service by coercing, steering, or deceiving users into making unintended and potentially harmful decisions. We present automated techniques that enable experts to identify dark patterns on a large set of websites. Using these techniques, we study shopping websites, which often use dark patterns to influence users into making more purchases or disclosing more information than they would otherwise. Analyzing ~53K product pages from ~11K shopping websites, we discover 1,818 dark pattern instances, together representing 15 types and 7 broader categories. We examine these dark patterns for deceptive practices, and find 183 websites that engage in such practices. We also uncover 22 third-party entities that offer dark patterns as a turnkey solution. Finally, we develop a taxonomy of dark pattern characteristics that describes the underlying influence of the dark patterns and their potential harm on user decision-making. Based on our findings, we make recommendations for stakeholders including researchers and regulators to study, mitigate, and minimize the use of these patterns.

연구 동기 및 목표

• 쇼핑 웹사이트에서 다크 패턴의 유병률과 다양성에 대한 대규모 증거를 제공한다.
• 사용자 의사 결정에 영향을 주는 UI 패턴을 식별하기 위한 자동화 방법을 개발한다.
• 다크 패턴의 특성과 인지 편향을 연결하는 서술적 분류체계를 만든다.
• 기만적 패턴과 다크 패턴 구현을 가능하게 하는 제3자 공급자를 식별한다.
• 연구자, 기자, 규제기관에 데이터, 도구, 분류체계를 제공한다.

제안 방법

• OpenWPM으로 웹 크롤러를 구축하여 사용자의 쇼핑 플로우를 시뮬레이션한다(탐색, 장바구니 담기, 결제).
• 페이지 분할과 클러스터링을 통해 텍스트 UI 요소를 추출하여 다크 패턴 클러스터를 식별한다.
• PCA와 HDBSCAN 클러스터링을 통한 Bag of Words 표현을 사용하여 전문가 검토를 위한 세그먼트를 구성한다.
• 다크 패턴 특성의 분류체계를 개발하고 이를 인지 편향에 매핑한다.
• 동적 페이지를 통해 반복 크롤링으로 패턴을 추적하여 기만 여부를 평가한다.

실험 결과

연구 질문

• RQ1 인기 있는 쇼핑 웹사이트에서 대규모로 다크 패턴의 유병률과 다양성은 어느 정도인가?
• RQ2 UI 텍스트와 페이지 세그먼트에서 다크 패턴을 자동으로 탐지하고 분류하는 방법은 무엇인가?
• RQ3 탐지된 다크 패턴의 특성과 그 기반이 되는 인지 편향은 무엇인가?
• RQ4 쇼핑 사이트에서 다크 패턴 배치를 가능하게 하는 제3자 엔티티는 누구인가?
• RQ5 연구자와 규제기관이 이러한 연구 결과를 활용해 다크 패턴의 사용을 완화하는 방법은 무엇인가?

주요 결과

• 1,818 건의 다크 패턴 사례가 약 11K개 쇼핑 웹사이트 중 1,254곳에서 발견되었습니다(≈11.1%).
• 이 1,818건은 15종의 형태와 7개 대분류의 다크 패턴에 걸쳐 있습니다.
• 대다수의 패턴은 은밀하고 기만적이며 정보 은폐를 수반합니다; 다수는 기본값과 프레이밍 효과와 같은 인지 편향을 악용합니다.
• 183개 웹사이트에서 기만적 다크 패턴이 나타났고, 총 234건의 기만적 사례가 확인되었습니다.
• 22개의 제3자 엔티티가 쇼핑 사이트에 다크 패턴 기능을 제공하며, 그 중 두 엔티티는 기만적 메시지를 공개적으로 광고합니다.
• 저자들은 자동화된 측정 기술과 패턴 데이터 세트, 그리고 연구자와 규제기관을 돕는 새로운 서술적 분류체계를 제공합니다.