[論文レビュー] Assessing and Addressing Algorithmic Bias - But Before We Get There

Jean Garcia-Gathright, Aaron Springer+1 more|arXiv (Cornell University)|Sep 10, 2018

Ethics and Social Impacts of AISocial Sciences参考文献 8被引用数 20

ひとこと要約

本論文は、散在する学術的文献を実務に即したプロセスに翻訳することで、産業界のチームがアルゴリズム的およびデータバイアスを特定・優先順位付けするのを支援する実用的でチェックリストベースのフレームワークを提案する。入力データ、アルゴリズム的判断、結果の評価を通じて早期のバイアス検出を重視し、ボイスインターフェースのバイアスや優先順位付け、MVP開発、技術的負債といった現実的課題を含む分野固有の課題を提示する。実務への適用を念頭に置いた構造的かつ柔軟なアプローチを提供する。

ABSTRACT

Algorithmic and data bias are gaining attention as a pressing issue in popular press - and rightly so. However, beyond these calls to action, standard processes and tools for practitioners do not readily exist to assess and address unfair algorithmic and data biases. The literature is relatively scattered and the needed interdisciplinary approach means that very different communities are working on the topic. We here provide a number of challenges encountered in assessing and addressing algorithmic and data bias in practice. We describe an early approach that attempts to translate the literature into processes for (production) teams wanting to assess both intended data and algorithm characteristics and unintended, unfair biases.

研究の動機と目的

• アルゴリズムバイアスに関する学術的研究と産業界での実践的応用の間のギャップを埋めること。
• データおよびアルゴリズムバイアスに関する散在した多様な分野の文献を、実務家が利用可能な統一的で実行可能なプロセスに翻訳すること。
• データ、モデル、結果における意図的・不意のバイアスを評価するための軽量でチームに適応可能なフレームワークを開発すること。
• 特にバイアスの拡大が顕著で是正が複雑である分野固有の課題、特にボイスインターフェースにおける課題を浮き彫りにすること。
• 優先順位付けの競合、MVP開発、バイアス関連の長期的技術的負債といった現実的障壁に対処すること。

提案手法

• 既存のバイアス分類（例：Baeza-Yates, Olteanu）を、データ、アルゴリズム、結果の特性を評価するための構造的でチェックリストベースのツールに適応する。
• バイアスを入力データ、アルゴリズム的判断、結果の不平等に分類し、各カテゴリが影響と是正策について具体的な質問を提示する。
• バイアスの優先順位付けを、ステークホルダーへの影響、一般的な存在、および蓄積的影響の程度に基づき、すべてのバイアスを同等に扱うのではなく行う。
• ボイスインターフェースの事例研究を用いて分野固有の分析を導入し、特に音声認識および推薦システムにおいてバイアスがどのように現れるかを実世界のシステムで示す。
• バイアス是正のための最小限の実用的プロダクト（MVP）アプローチを提案し、段階的な改善が可能な早期導入を可能にする。
• 開発ライフサイクルの初期段階でバイアス認識を組み込み、技術的負債を減らすために組織文化と変化を提言する。

実験結果

リサーチクエスチョン

• RQ1 アルゴリズム的およびデータバイアスに関する学術的文献は、どのように産業界の実務家が利用可能なチームレベルのプロセスに翻訳できるか？
• RQ2 特にボイスインターフェースのような分野において、実世界の機械学習システムにおけるバイアスの特定・優先順位付けの主な課題は何か？
• RQ3 製品ロードマップの破綻や技術的負債の増加を招かずに、バイアス是正をアジャイル開発に統合する方法は何か？
• RQ4 音声認識システムにおいて、アルゴリズムバイアスと自然な人種的・文化的差異を区別するために、グランド・トゥルースデータはどの程度有効か？
• RQ5 組織文化および多様性は、システム設計およびスケーリング段階で前もってバイアスを防止するために果たす役割は何か？

主な発見

• チェックリストベースのフレームワークは、複雑な学術的分類をデータ、アルゴリズム、結果のバイアス評価のための実行可能なステップに効果的に翻訳できる。
• バイアスの優先順位付けは、バイアスの存在だけでなく、ステークホルダーへの影響、一般的な存在、蓄積的影響の程度を考慮する必要がある。
• ボイスインターフェースは、地域のアクセントや口語の認識に課題を抱えるため、バイアスが拡大しやすく、誤解を招くことがある（例：「You Da Baddest」が「You’re the baddest」と変換される）。
• ユーザーの意図とトランスクリプションの不一致から得られるグランド・トゥルースデータは、音声認識におけるアルゴリズムバイアスと人種的・文化的差異を分離するのを支援する。
• 競合する製品優先順位や技術的負債といった現実的課題は、バイアス是正を妨げるが、ビジネスに合ったフレーミングと組織文化の変化によって克服できる。
• 組織教育と多様な人材の採用を通じて、バイアス認識を開発の初期段階から組み込むことで、システム設計段階でのバイアス関連技術的負債の蓄積を防げる。