[論文レビュー] Representation Bias in Data: A Survey on Identification and Resolution Techniques

Nima Shahbazi, Lin Yin+2 more|arXiv (Cornell University)|Mar 22, 2022

Anomaly Detection Techniques and Applications被引用数 15

ひとこと要約

本調査は、構造的および非構造的データにおける表現バイアスについて包括的な分析を提示し、テキスト、表形式、画像、グラフデータにおける同定および是正技術の分類と併記比較を提案する。データレベルのバイアス—標本化、歴史的要因、構造的要因に起因する代表不全に起因する—は、公平なAIの成果を保証するため、モデル学習の前に是正されるべきであることを強調する。

ABSTRACT

Data-driven algorithms are only as good as the data they work with, while data sets, especially social data, often fail to represent minorities adequately. Representation Bias in data can happen due to various reasons ranging from historical discrimination to selection and sampling biases in the data acquisition and preparation methods. Given that "bias in, bias out", one cannot expect AI-based solutions to have equitable outcomes for societal applications, without addressing issues such as representation bias. While there has been extensive study of fairness in machine learning models, including several review papers, bias in the data has been less studied. This paper reviews the literature on identifying and resolving representation bias as a feature of a data set, independent of how consumed later. The scope of this survey is bounded to structured (tabular) and unstructured (e.g., image, text, graph) data. It presents taxonomies to categorize the studied techniques based on multiple design dimensions and provides a side-by-side comparison of their properties. There is still a long way to fully address representation bias issues in data. The authors hope that this survey motivates researchers to approach these challenges in the future by observing existing work within their respective domains.

研究の動機と目的

• モデルレベルの公平性にのみ焦点を当てるのではなく、データレベルの表現バイアスに注目することで、公平性研究における重要なギャップを埋める。
• 構造的（表形式）および非構造的（テキスト、画像、グラフ）データにおける表現バイアスを同定および是正する技術の体系的分類を提供する。
• データタイプ、バイアスタイプ、および介入段階（同定対是正）といった設計次元に沿って、既存の手法を比較する。
• ストリーミングデータ、空間時間的データ、および改善されたバイアス測定指標といった分野における未解決の課題を提示することで、今後の研究を促進する。
• モデル学習の前段階で公平なデータ実践を促進することで、データ中心のAIの開発を支援する。

提案手法

• データタイプ、バイアス源、および介入戦略に基づいて、表現バイアスの検出および緩和技術を分類する多次元的分類法を提案する。
• 手法を同定（例：サブグループカバレッジ、代表率、グラフ内のハモフィリーの測定）と是正（例：データ再重み付け、埋め込みのバイアス除去、グラフ構造の変更）に分類する。
• 語彙埋め込みのバイアス除去に直交射影を用いて性別／人種のベクトルに直交させることで、自然言語処理におけるステレオタイプ的関連性を顕著に低減する手法を分析する。
• 少数派サブグループにおける代表不全を定量化するための指標として、カバレッジおよび代表率を導入する。
• 遷移確率を調整するか、エッジを削除することでハモフィリーを低減するFairwalkおよびFairdropといった手法を評価する。
• バイアスを表現空間に明示的にモデル化することで、公平なグラフ埋め込みを学習するためのベイジアンおよび構成的アプローチをレビューする。

実験結果

リサーチクエスチョン

• RQ1 表形式、テキスト、画像、グラフデータを含むさまざまなデータタイプにおいて、表現バイアスを体系的に同定する方法は何か？
• RQ2 既存の表現バイアス同定および是正技術を区別する主な設計次元は何か？
• RQ3 埋め込みのバイアス除去やグラフ構造の変更といった現在の是正技術は、少数派グループにおける代表不全をどの程度効果的に緩和できるか？
• RQ4 カバレッジや代表率といった既存の指標は、表現バイアスの深刻さをどの程度適切に捉えているのか、またその限界は何か？
• RQ5 ストリーミングデータや空間時間的データといった新たなデータタイプに、表現バイアスの同定および是正を拡張するにあたり、どのような未解決の課題が存在するか？

主な発見

• 歴史的要因、標本化要因、構造的要因に起因する表現バイアスは、現実のデータにおいて広範に存在し、代表不全のサブグループにおける一般化性能の低下を引き起こす。
• 均一な標本化であっても、母集団におけるベースライン出現頻度が低い少数派（例：妊娠中の個人）は、依然として代表不全の状態に置かれる。
• 性別／人種のベクトルに直交するように語彙埋め込みを変換することで、自然言語処理におけるステレオタイプ的関連性を顕著に低減できる。
• グラフデータでは、Fairdrop や Fairwalk といった手法が、隣接行列や遷移確率を変更することでハモフィリーを低減し、ノード表現における公平性を向上させる。
• 代表率やカバレッジといった指標は有用であるが、複雑または動的変化を示すデータでは、繊細なバイアスパターンを捉えるには限界がある。
• ストリーミングおよび空間時間的データのような分野では、バイアスのダイナミクスが時間とともに変化するため、新しい指標およびスケーラブルな解決策の開発が急務である。