[論文レビュー] To Trust, or Not to Trust? A Study of Human Bias in Automated Video Interview Assessments

Chee Wee Leong, Katrina Crotts Roohr+7 more|arXiv (Cornell University)|Nov 27, 2019

Social and Intergroup Psychology被引用数 8

ひとこと要約

本研究は、外見、人種、性別などの外見的および人口統計的メタデータが、人間の採用評価者による動画面接のスコアに及ぼす影響を分析することで、自動化された動画面接評価における人間のバイアスを調査している。バイアス特徴量とモデル予測との間には低い相関関係が見られたが、これらのメタデータは性能に顕著な影響を及ぼしており、高利害な採用システムにおける公平性に懸念を呈する。

ABSTRACT

Supervised systems require human labels for training. But, are humans themselves always impartial during the annotation process? We examine this question in the context of automated assessment of human behavioral tasks. Specifically, we investigate whether human ratings themselves can be trusted at their face value when scoring video-based structured interviews, and whether such ratings can impact machine learning models that use them as training data. We present preliminary empirical evidence that indicates there might be biases in such annotations, most of which are visual in nature.

研究の動機と目的

• 人間の評価者が構造化された動画面接のスコアを付与する際に、無意識のバイアスを示すかどうかを調査すること。
• 人間がアノテートしたラベルに含まれるバイアスが、それらのラベルに基づいて学習された機械学習モデルに伝播し、それらに影響を与えるかどうかを評価すること。
• 外見、人種、性別などの人口統計的および視覚的メタデータ（例：外見、人種、性別）が、人間のスコアと自動予測モデルの両方に与える影響を評価すること。
• マルチモーダルディープラーニングとバイアスメタデータの拡張を用いて、自動評価システムにおけるバイアスの検出および軽減法を検討すること。
• バイアス特徴量が、本質的な性能構造と相関が低くても、モデルの性能に意味的に寄与するかどうかを特定すること。

提案手法

• 米国参加者から得た1,887件の構造化された動画面接データを収集。質問は標準化され、7段階リッカートスケールによる評価が行われた。
• 5名の訓練済み評価者による各面接のスコア付けを行い、平均化して基準ラベルを生成。ICC = 0.79、R_mean = 0.74を達成。
• 10のカテゴリ（環境、壁、性別、外見、人種、年齢、体重、顔面の兆候、発音）にわたり、各受験者に対してバイアスメタデータをアノテートした。
• 音声および動画のマルチモーダル特徴量を用い、2次元畳み込みとGRUを組み合わせた深層ニューラルネットワーク（DNN）を訓練し、性能予測を二値分類タスクとして実行。
• DNNモデルを2つの方法で拡張：(1) バイアス予測との要素ごとの論理積、(2) DNN確率と元のバイアスメタデータを統合するスタッキング一般化。
• F1スコアを用いてモデル性能を評価し、統計的分析（ウィルコクソン符号順位検定、コーエンのカッパ、ランダムフォレストの特徴量重要度）を実施。

実験結果

リサーチクエスチョン

• RQ1 人間の評価者が動画面接のスコアを付与する際、外見、人種、性別、その他の人口統計的要因に関連するバイアスをどの程度反映しているか？
• RQ2 人間がアノテートしたこれらのバイアスが、そのラベルに基づいて学習された機械学習モデルの性能にどのように影響するか？
• RQ3 バイアスメタデータは、自動化された面接評価におけるマルチモーダルモデルの予測力に向上をもたらすか、逆に歪ませるか？
• RQ4 バイアスメタデータ特徴量とDNNモデルの予測との間の相関は何か？これは構造的無関係な影響を示唆するか？
• RQ5 実際の性能構造と相関が低くても、人口統計的メタデータ特徴量がモデル性能に意味的に寄与するか？

主な発見

• マルチモーダルDNNモデルはテストセットでF1スコア0.70を達成し、以前のSVMベースライン（F1 = 0.66）を上回った。
• バイアスメタデータ拡張のスタッキング一般化手法は、論理積アプローチよりも優れた全体のF1性能を示した。
• バイアスメタデータとモデル予測との間のコーエンのカッパ値はほぼゼロ（例：性別：κ = 0.04）であり、非常に低い一致を示した。
• 相関が低くても、バイアスメタデータ特徴量はランダムフォレストモデルにおける特徴量重要度の27%を占めており、非軽視可能な影響があると示唆された。
• DNNモデル自体が特徴量重要度の9%を占めており、最も高い順位を記録しており、性能のばらつきの大部分を捉えていると示唆された。
• 結果から、本質的な性能特徴と相関がなくても、人口統計的および視覚的メタデータがモデル予測に顕著に影響を与えることが明らかになった。これは、高利害な採用応用における公平性に懸念を呈する。