[論文レビュー] Debiasing Methods for Fairer Neural Models in Vision and Language Research: A Survey

Otávio Parraga, Martin D. Móre+7 more|arXiv (Cornell University)|Nov 10, 2022

Ethics and Social Impacts of AI被引用数 7

ひとこと要約

本調査では、視覚および言語ニューラルネットワークにおける公平性のためのデバイアス化手法について包括的な分類体系を提示し、事前処理、処理内処理、事後処理の技術を分析している。基礎モデルにおけるバイアス軽減の主な課題を特定し、タスクパフォーマンスを損なわずに強固で一般化可能な公平性を達成するため、公平性に配慮したファインチューニングおよびプロンプト処理を提唱する。

ABSTRACT

Despite being responsible for state-of-the-art results in several computer vision and natural language processing tasks, neural networks have faced harsh criticism due to some of their current shortcomings. One of them is that neural networks are correlation machines prone to model biases within the data instead of focusing on actual useful causal relationships. This problem is particularly serious in application domains affected by aspects such as race, gender, and age. To prevent models from incurring on unfair decision-making, the AI community has concentrated efforts in correcting algorithmic biases, giving rise to the research area now widely known as fairness in AI. In this survey paper, we provide an in-depth overview of the main debiasing methods for fairness-aware neural networks in the context of vision and language research. We propose a novel taxonomy to better organize the literature on debiasing methods for fairness, and we discuss the current challenges, trends, and important future work directions for the interested researcher and practitioner.

研究の動機と目的

• 視覚および言語ニューラルネットワークにおけるアルゴリズム的バイアスという重要な問題に対処すること。これは、因果関係ではなく誤った相関関係を学習する傾向があるためである。
• 公平性に配慮したAIにおける事前処理、処理内処理、事後処理のパラダイムにわたるデバイアス化技術の体系的概要を提供すること。
• 視覚および言語研究における既存のデバイアス化手法をよりよく整理・分類するための新しい分類体系を提示すること。
• 特に大規模な基礎モデルにおける公平性に関する緊急の課題を強調し、未だ十分に検討されていない研究分野を特定すること。
• 公平性、透明性、倫理的な展開を重視することで、研究者および実務家がより責任あるAI開発に向けた道筋を示すこと。

提案手法

• 介入のタイミング（事前処理、処理内処理、事後処理）とモダリティ（視覚、言語、マルチモーダル）に基づいてデバイアス化手法を分類する新しい分類体系を提唱する。
• デモグラフィックパリティ、等しい機会、等しいオッズといった公平性指標をレビューし、視覚およびNLPタスクにおける適用可能性と限界を評価する。
• 敵対的訓練、分離表現学習、因果推論を含む処理内処理技術を分析し、感受性属性を予測から分離する。
• 再訓練なしに推論後にモデル出力を是正するリウェートリングやしきい値調整といった事後処理手法を検討する。
• 公平性とタスクパフォーマンスのトレードオフをバランスさせるために、マルチタスク最適化とパレートフロンティア生成を活用する。
• 基礎モデルに焦点を当て、スケーラブルで効果的なバイアス軽減戦略として、ファインチューニングとプロンプトベースの適応を提唱する。

実験結果

リサーチクエスチョン

• RQ1 デバイアス化手法を体系的に分類・整理することで、公平性研究における明確さとアクセス性を向上させることは可能か？
• RQ2 視覚および言語モデルにおけるバイアス軽減に最も効果的な事前処理、処理内処理、事後処理技術は何か？
• RQ3 デモグラフィックパリティや等しい機会といった公平性指標は、異なる視覚およびNLPタスクやデータモダリティにおいてどのように性能を発揮するか？
• RQ4 大規模な基礎モデルにデバイアス化手法を適用するにあたり、主な課題は何であり、どのように解決できるか？
• RQ5 特に基礎モデルの文脈において、ニューラルネットワークにおける公平性を達成するための最も有望な今後の研究分野は何か？

主な発見

• 提示された分類体系により、デバイアス化に関する文献の増加を明確に整理でき、特定のモダリティタイプの組み合わせにおいて未だ十分に検討されていない手法のギャップが明らかになった。
• 基礎モデルはその規模と広範な適用可能性のため、独自の公平性の課題を有しており、バイアス軽減のための事前処理やワンステップトレーニングは不実行である。
• ファインチューニングとプロンプトベースの適応が、公平性とパフォーマンスの両立を図る上で、最も現実的でスケーラブルなアプローチとして特定された。
• パレートフロンティア生成を含むマルチタスク最適化技術は、公平性とタスク固有のパフォーマンス指標の間の効率的トレードオフを特定するのに役立つ。
• 分離と因果推論手法は、公平性の一般化を向上させる可能性を示しているが、しばしばタスク精度の低下を伴う。
• 基礎モデルのオープンソース化は、実世界での展開における公平性問題の発見と軽減を加速するために不可欠である。