[論文レビュー] Dark Patterns at Scale: Findings from a Crawl of 11K Shopping Websites

Arunesh Mathur, Güneş Acar+5 more|Lirias (KU Leuven)|Jul 16, 2019

Cybercrime and Law Enforcement Studies参考文献 45被引用数 99

ひとこと要約

本論文は、11Kのショッピングサイト全体でダークパターンを大規模に検出する自動化技術を提示し、1,818件の発生と7カテゴリ中の15種類のパターンの分類を得た。さらに欺瞞的な実践、第三者提供者を特定し、研究者と規制当局向けのデータとツールを提供する。

ABSTRACT

Dark patterns are user interface design choices that benefit an online service by coercing, steering, or deceiving users into making unintended and potentially harmful decisions. We present automated techniques that enable experts to identify dark patterns on a large set of websites. Using these techniques, we study shopping websites, which often use dark patterns to influence users into making more purchases or disclosing more information than they would otherwise. Analyzing ~53K product pages from ~11K shopping websites, we discover 1,818 dark pattern instances, together representing 15 types and 7 broader categories. We examine these dark patterns for deceptive practices, and find 183 websites that engage in such practices. We also uncover 22 third-party entities that offer dark patterns as a turnkey solution. Finally, we develop a taxonomy of dark pattern characteristics that describes the underlying influence of the dark patterns and their potential harm on user decision-making. Based on our findings, we make recommendations for stakeholders including researchers and regulators to study, mitigate, and minimize the use of these patterns.

研究の動機と目的

• ショッピングサイト上のダークパターンの普及と多様性に関する大規模な証拠を提供する。
• ユーザーの意思決定を操作する UI パターンを特定する自動化手法を開発する。
• ダークパターンの特徴と認知バイアスを結びつける説明的分類法を作成する。
• 欺瞞的なパターンとダークパターンの展開を可能にする第三者提供者を特定する。
• データ、ツール、および分類法を研究者、ジャーナリスト、規制当局に提供する。

提案手法

• OpenWPMを用いたウェブクローラを構築し、ユーザーのショッピングフロー（閲覧、カートに追加、チェックアウト）を模倣する。
• ページ分割とクラスタリングを用いてテキストUI要素を抽出し、ダークパターンのクラスターを特定する。
• Bag of Words表現を用い、PCAとHDBSCANクラスタリングでセグメントを整理し、専門家レビュー用とする。
• ダークパターンの特徴の分類法を開発し、認知バイアスへ対応づける。
• 動的ページと繰り返しのクロールを通じてパターンをたどり、欺瞞を評価する。

実験結果

リサーチクエスチョン

• RQ1 規模の大きさで人気のあるショッピングサイトにおけるダークパターンの普及と多様性はどの程度か？
• RQ2 UI テキストとページセグメントからダークパターンを自動的に検出・分類するにはどうすればよいか？
• RQ3 検出されたダークパターンの特徴とそれに基づく認知バイアスは何か？
• RQ4 ショッピングサイト上でダークパターンの展開を可能にする第三者団体はどれか？
• RQ5 研究者と規制当局がこれらの知見をどのように活用してダークパターンの使用を抑制できるか？

主な発見

• 1,818件のダークパターンの発生が、約11Kのショッピングサイトの1,254サイトで確認された（約11.1%）。
• この1,818件は15タイプおよび7つの大分類のダークパターンにまたがる。
• 大多数のパターンは潜在的で欺瞞的であり、情報の隠蔽を含み、多くはデフォルトやフレーミング効果などの認知バイアスを悪用する。
• 183のウェブサイトが欺瞞的ダークパターンを示し、全体で234件の欺瞞的事例を特定。
• ダークパターン機能をショッピングサイトに提供する第三者は22、うち2社は欺瞞的なメッセージを公然と宣伝している。
• 著者らは自動測定手法とパターンのデータセット、研究者と規制当局を支援する新しい記述的分類法を提供する。