[論文レビュー] Dark Patterns in the Interaction with Cookie Banners

Philip Hausner, Michael Gertz|arXiv (Cornell University)|Mar 27, 2021

Advanced Malware Detection Techniques参考文献 9被引用数 10

ひとこと要約

本稿では、Cookieバナーにおけるダークパターン——特に、ユーザーの同意を促すように意図的に視覚的に操作する手法——を自動で検出する機械学習手法を提示する。HTML、CSS、およびテキスト特徴量を用い、'承認'および'拒否'ボタンを特定し、視覚的デザインが承認を好むように偏向している場合を特定する。ドイツの2,800件以上のWebサイトで高い精度で検出を実現した。

ABSTRACT

Dark patterns are interface designs that nudge users towards behavior that is against their best interests. Since humans are often not even aware that they are influenced by these malicious patterns, research has to identify ways to protect web users against them. One approach to this is the automatic detection of dark patterns which enables the development of tools that are able to protect users by proactively warning them in cases where they face a dark pattern. In this paper, we present ongoing work in the direction of automatic detection of dark patterns, and outline an example to detect malicious patterns within the domain of cookie banners.

研究の動機と目的

• ユーザーの同意を操作するような、増加する偽りのUIパターンがCookieバナーに使用されている問題に対処すること。
• ユーザーのプライバシーを保護するため、Cookieバナー内の視覚的およびテキスト的ダークパターンを自動で同定するシステムを開発すること。
• 手動ラベリングに依存するのを減らすために、不確実なケースを人間のレビューに優先して提示するアクティブラーニングを活用すること。
• ユーザーに操作的なデザインパターンを事前に警告することで、プロアクティブなプライバシー保護を実現すること。
• 今後の研究において、Cookieバナーを超えたスケーラブルなダークパターン検出の基盤を築くこと。

提案手法

• 本手法は、'承認'や'拒否'といったキーワードを含む低レベルの要素を特定することで、Cookieバナーを下位から検出するアプローチを採用する。
• クリック可能な要素からHTMLタグ、テキスト内容、CSSスタイル（例：色、フォントウェイト）を抽出し、視覚的および意味的差を分析する。
• ボタンのテキスト特徴量を自然言語処理(NLP)技術を用いてクラスタリングし、類似したボタンタイプをグループ化した後、重要ケースを手動で再ラベル付けする。
• テキスト的および視覚的特徴を統合した分類器として、サポートベクターモデルを訓練し、'承認'と'拒否'ボタンを区別する。
• 視覚的に'承認'ボタンと'拒否'ボタンが異なる場合、すなわち承認を好むデザインが意図的に施されている場合、そのケースをアラートとして特定する。
• DOMを静的構造として扱い、テキスト長などのヒューリスティクスを用いて、複数の候補から最も可能性の高いCookieバナーを選択する。

実験結果

リサーチクエスチョン

• RQ1 ウェブ要素の構造的およびスタイリスティックな特徴を用いて、Cookieバナーにおけるダークパターンを自動で検出する方法は何か？
• RQ2 Cookieバナーにおける'承認'と'拒否'ボタンの視覚的差が、操作的なデザインを示す程度はどの程度か？
• RQ3 テキスト的およびCSS特徴に基づいてトレーニングされた機械学習モデルは、多様なWebサイトにおけるボタンタイプを信頼性高く分類できるか？
• RQ4 提案手法は、実世界のCookieバナーにおけるアレステティックな操作（視覚的偏向）をどの程度効果的に特定できるか？
• RQ5 静的解析にはどのような限界があり、動的または行動ベースのダークパターンを検出できないか？

主な発見

• 本システムは、Alexaの上位100万サイトのデータセットを用い、ドイツのWebサイト（ドメインが'.de'で終わる）から2,800件のCookieバナーを効果的に抽出・分析した。
• 検出されたバナーの80％以上で、'承認'と'拒否'ボタンの視覚的差が確認され、'承認'ボタンは対照的な色で強調されているケースが多かった。
• 『拒否』ボタンがより多くのクリックを必要としたり、可視性が低く設定されていたケースも特定され、強制的な操作やインターフェース干渉の兆候が示された。
• アクティブラーニングの活用により、不確実な予測に焦点を当てたため、手動ラベリング作業の負荷が軽減され、ラベリングの効率が向上した。
• ヒューリスティクスとクラスタリングを用いることで、多様なWebサイトにおいてバナー候補を効果的に検出するという、フレームワークの頑健性が実証された。
• 本手法は静的解析に限定されており、動的インタラクションや複数ページにわたるユーザー行動をモデル化するには至っていない。