[論文レビュー] Detection and Mitigation of Bias in Ted Talk Ratings

Rupam Acharyya, Shouman Das+3 more|arXiv (Cornell University)|Mar 2, 2020

Benford’s Law and Fraud Detection参考文献 30被引用数 7

ひとこと要約

本稿は、公平性に配慮した機械学習を用いて、TEDトーク視聴者評価における暗黙のバイアスを検出し、是正する。プラットフォームの包括的姿勢にもかかわらず、人種と性別の要因が評価に顕著に影響していることが示された。前処理、最適化処理、後処理の手法を適用し、特にPrejudice Removerと不平等影響度（Disparate Impact）指標を用いることで、バイアスが体系的に低減可能であることが示された。特に最適化処理が、最も効果的な公平性の向上をもたらした。

ABSTRACT

Unbiased data collection is essential to guaranteeing fairness in artificial intelligence models. Implicit bias, a form of behavioral conditioning that leads us to attribute predetermined characteristics to members of certain groups and informs the data collection process. This paper quantifies implicit bias in viewer ratings of TEDTalks, a diverse social platform assessing social and professional performance, in order to present the correlations of different kinds of bias across sensitive attributes. Although the viewer ratings of these videos should purely reflect the speaker's competence and skill, our analysis of the ratings demonstrates the presence of overwhelming and predominant implicit bias with respect to race and gender. In our paper, we present strategies to detect and mitigate bias that are critical to removing unfairness in AI.

研究の動機と目的

• TEDトーク視聴者評価における暗黙のバイアスが、スピーカーの人種と性別によってどのように影響を受けるかを調査すること。
• 最先端の公平性指標を用いて、パブリックスピーチ評価における不正義の程度を定量化すること。
• 実世界の社会的パフォーマンスデータセット上で、前処理、最適化処理、後処理のバイアス是正戦略を評価・比較すること。
• AI駆動の社会的評価システムにおけるバイアスの検出および是正のための体系的かつ再現可能なフレームワークを提供すること。
• 多様な実世界データセットにおける交差的バイアスに対処するうえで、後処理の限界を浮き彫りにすること。

提案手法

• TEDトーク評価データセットにおける性別および人種的カテゴリーごとに、不平等影響度（Disparate Impact）の公平性指標を計算するために、AIF360ツールキットを活用した。
• モデル学習の前に、訓練データから支配的である人種的バイアスを除去するための前処理技術を適用した。
• 最適化処理として、Prejudice Removerアルゴリズムを用い、モデル学習中に損失関数に公平性正則化項を追加した。
• 予測後に予測値を調整する後処理手法を評価し、保護される属性ごとに結果を均等化することを目的とした。
• 同じデータセット上でロジスティック回帰とPrejudice Removerモデルを学習・比較し、公平性の向上を評価した。
• 段階的な是正パイプラインを採用：まず前処理で人種的バイアスを低減し、次に最適化処理で残存する性別バイアスを低減した。

実験結果

リサーチクエスチョン

• RQ1 コンテンツの質とは独立して、スピーカーの人種と性別がTEDトーク評価にどの程度影響を及えるか。
• RQ2 不平等影響度指標は、保護される属性ごとに社会的パフォーマンス評価における不正義を効果的に定量化できるか。
• RQ3 前処理、最適化処理、後処理のうち、どのバイアス是正戦略がTEDトーク評価における不正義を最も効果的に低減できるか。
• RQ4 多様で現実世界の社会的評価データにおいて、後処理のみで交差的バイアスを是正できるか。
• RQ5 特定のデータセットに存在するバイアスの種類と優先順位に応じて、是正手法の選択はどのように変化するか。

主な発見

• 白人男性スピーカーは一貫して肯定的な評価を受けていたが、他の人種や性別のスピーカーはより混合的かつ変動的な評価を受けており、システム的バイアスの兆候が示された。
• 元のデータセットは高い不平等影響度値を示し、特に白人でない・男性でないスピーカーに対して顕著な不正義が存在していた。
• Prejudice Removerモデル（最適化処理）は、ロジスティック回帰よりも不平等影響度スコアが1に近づき、性別カテゴリー全体での公平性の向上が示された。
• 前処理は支配的である人種的バイアスを効果的に低減し、モデル学習前の公平性指標を改善した。
• 後処理手法は公平性の向上に有意義な寄与を示さず、予測後に深く根付いたバイアスを是正する限界が示された。
• 本研究は、是正戦略の有効性が、データに存在するバイアスの種類と優先順位に強く依存することを示した。