[論文レビュー] The Impact of Presentation Style on Human-In-The-Loop Detection of Algorithmic Bias

Po-Ming Law, Sana Malik+2 more|arXiv (Cornell University)|Jan 1, 2020

Ethics and Social Impacts of AI参考文献 24被引用数 1

ひとこと要約

本研究は、半自動バイアス検出ツールにおける提示スタイルが、人間が関与するバイアスレビューに与える影響を調査する。16名の参加者を対象としたラボ研究により、推薦リストが報告されていないパフォーマンス指標の検討を減少させることを明らかにした。これにより、情報負荷と包括性の2つの設計軸を提示し、バイアス検出ツールにおける推薦リストと視覚的キーポイントの使用を最適化するための指針を提示する。

ABSTRACT

While decision makers have begun to employ machine learning, machine learning models may make predictions that bias against certain demographic groups. Semi-automated bias detection tools often present reports of automatically-detected biases using a recommendation list or visual cues. However, there is a lack of guidance concerning which presentation style to use in what scenarios. We conducted a small lab study with 16 participants to investigate how presentation style might affect user behaviors in reviewing bias reports. Participants used both a prototype with a recommendation list and a prototype with visual cues for bias detection. We found that participants often wanted to investigate the performance measures that were not automatically detected as biases. Yet, when using the prototype with a recommendation list, they tended to give less consideration to such measures. Grounded in the findings, we propose information load and comprehensiveness as two axes for characterizing bias detection tasks and illustrate how the two axes could be adopted to reason about when to use a recommendation list or visual cues.

研究の動機と目的

• バイアス検出ツールにおける異なる提示スタイルが、人間が関与するレビュー中のユーザー行動に与える影響を調査すること。
• 半自動バイアス検出インターフェースにおいて、推薦リストと視覚的キーポイントの間の設計的トレードオフを同定すること。
• 公平性監査ツールにおいて、一方の提示スタイルを他方よりも優先して使用すべき状況についての指針が不足している問題を解決すること。
• 情報負荷と包括性といったタスクの特性に基づいて、適切な提示スタイルを選択するためのフレームワークを提示すること。

提案手法

• 提示スタイルが異なる2つの半自動バイアス検出プロトタイプを開発した。一方は推薦リストを、他方は自動的に報告されたバイアスを強調するための視覚的キーポイントを用いた。
• 16名の参加者が両プロトタイプを用いてバイアスレポートをレビューする小規模なラボ研究を実施した。
• 参加者が手動で選択したパフォーランス指標（自動報告済み、報告されていない、手動選択済み）のデータを収集した。
• ユーザー行動を分析し、提示スタイルが報告されていないパフォーマンス指標の検討に与える影響を評価した。
• バイアス検出タスクを特徴付けるための2つの軸（情報負荷と包括性）を提示し、ツール設計を支援するための指針を提示した。
• 推薦リストと視覚的キーポイントを組み合わせたハイブリッドアプローチの今後の研究を提案した。これにより、重要な報告されていない指標を優先的に検討しつつ、認知的負荷を低減できるようにする。

実験結果

リサーチクエスチョン

• RQ1 推薦リストと視覚的キーポイントの使用が、バイアス検出において報告されていないパフォーマンス指標の検討に与える影響は何か？
• RQ2 どのような状況下でユーザーは、自動的にバイアスとしてフラグが立てられていないパフォーランス指標を無視する傾向にあるか？
• RQ3 情報過多にならずに公平性メトリクスの包括的レビューを支援するインターフェース設計はどのように実現できるか？
• RQ4 タスクの特性（情報負荷、包括性など）に基づいて、半自動バイアス検出ツールにおける提示スタイルを選択するための設計原則は何か？
• RQ5 インターフェース設計の影響は、機械学習モデルにおける交差的バイアスの検出にどのような意味を持つのか？

主な発見

• 参加者は、ツールによって自動的にバイアスとして報告されていないパフォーマンス指標を調査したいと頻繁に感じた。
• 推薦リストプロトタイプを使用した際、参加者は報告されていない指標を検討する機会が与えられても、顕著にその検討を減らした。
• 視覚的キーポイントプロトタイプは、報告済みおよび報告されていない指標の両方を、特に情報負荷が低い状況ではより徹底的にレビューするよう促した。
• 情報負荷が高い状況で包括性が優先されない場合、推薦リストは認知的負荷を低減し、効果的であった。
• 情報負荷と包括性の両方が高い状況は、現在のアプローチが不足している挑戦的な設計領域であり、さらなる検討が必要である。
• 本研究は、インターフェース設計が公平性監査におけるユーザーの注目と意思決定に顕著な影響を与えることを明らかにした。これにより、意図的なツール設計の重要性が強調された。