[論文レビュー] Fairness and Discrimination in Information Access Systems

Michael D. Ekstrand, Anubrata Das+2 more|arXiv (Cornell University)|May 12, 2021

Ethics and Social Impacts of AI参考文献 153被引用数 13

ひとこと要約

本論文は、推薦および検索システムを含む情報アクセスシステムにおける公平性の包括的な分類体系を提示する。ランクベースの相互作用、パーソナライゼーション、ユーザーのフィードバックに起因する独自の課題を強調している。既存の文献を調査し、主要な公平性次元を特定し、この分野における今後の研究のための未解決問題を提示する。

ABSTRACT

Recommendation, information retrieval, and other information access systems pose unique challenges for investigating and applying the fairness and non-discrimination concepts that have been developed for studying other machine learning systems. While fair information access shares many commonalities with fair classification, the multistakeholder nature of information access applications, the rank-based problem setting, the centrality of personalization in many cases, and the role of user response complicate the problem of identifying precisely what types and operationalizations of fairness may be relevant, let alone measuring or promoting them. In this monograph, we present a taxonomy of the various dimensions of fair information access and survey the literature to date on this new and rapidly-growing topic. We preface this with brief introductions to information access and algorithmic fairness, to facilitate use of this work by scholars with experience in one (or neither) of these fields who wish to learn about their intersection. We conclude with several open problems in fair information access, along with some suggestions for how to approach research in this space.

研究の動機と目的

• 従来の機械学習の公平性の文脈とは顕著に異なる情報アクセスシステムにおける公平性の理解の欠如を埋めるため。
• ランクベースの検索、パーソナライゼーション、ユーザーの相互作用が公平性評価に与える独自の課題を特定・分類するため。
• アルゴリズムの公平性や情報アクセスに初めて取り組む研究者にとって、これらの分野の交差を理解する基盤となるフレームワークを提供するため。
• 推薦および検索システムにおける公平性に関する既存研究を調査し、公平性次元の整合的な分類体系に沿って整理するため。
• 情報アクセスシステムにおける公平性を高めるための未解決問題を強調し、今後の研究方向性を提示するため。

提案手法

• 情報アクセスに特化した公平性次元の分類体系を構築し、関係者間で代表性、扱い方、結果の公平性を含む。
• アルゴリズムの公平性と情報検索の概念を統合し、ランクベースで複数の利害関係者が関与する状況に適合した公平性の定義を適応する。
• ユーザー行動とフィードバックループが、特にパーソナライズドシステムにおいて公平性にどのように影響するかを分析する。
• 推薦および検索における公平性に関する既存の文献をレビューし、公平性の種別とシステム特性ごとに研究結果を整理する。
• 順序付けとユーザー参加に依存するシステムにおける公平性の測定に向けた手法的配慮を提示する。
• 公平性と有用性のトレードオフを含む、公平な情報アクセスシステムの設計・評価における主な課題を同定する。

実験結果

リサーチクエスチョン

• RQ1 従来の機械学習の応用とは異なり、情報アクセスシステムに特有の公平性課題とは何か？
• RQ2 ランクベースの検索、パーソナライゼーション、ユーザーのフィードバックは、公平性の実装をどのように複雑化させるか？
• RQ3 代表性、扱い方、結果の公平性といった公平性次元の中で、複数の利害関係者が関与する情報アクセスシステムにおいて最も関連性の高いものは何か？
• RQ4 ユーザー参加と順序付けが中心となるシステムにおいて、公平性はどのように測定され、促進されるべきか？
• RQ5 情報アクセスにおける公平性を進展させるにあたり、重要な未解決問題と研究方向性は何か？

主な発見

• 情報アクセスにおける公平性は、多様な利害関係者、ランクベース、相互作用的な性質を有するため、公平な分類とは直接的に転送できない。
• パーソナライゼーションとユーザーのフィードバックは、不公平を強化または緩和するフィードバックループを生じさせ、公平性の測定を複雑にする。
• 分類体系は、代表性の公平性（弱い立場のグループに対する）や順序付けにおける扱いの公平性といった、システム設計に不可欠な明確な公平性次元を特定している。
• 情報アクセスにおける公平性に関する既存の文献は増加しているが、定義や評価方法に一貫性がなく、断片的である。
• 主な課題には、公平性と有用性のバランス、利害関係者の多様性のモデル化、動的で相互作用的なシステムに適した強固な公平性指標の開発が含まれる。
• 本論文は、標準化された公平性評価プロトコルや情報アクセスの文脈に特化した倫理的フレームワークの必要性を含む、いくつかの未解決問題を同定している。