[論文レビュー] A survey of algorithmic recourse: definitions, formulations, solutions, and prospects

Amir-Hossein Karimi, Gilles Barthe+2 more|arXiv (Cornell University)|Oct 8, 2020

Ethics and Social Impacts of AI参考文献 197被引用数 45

ひとこと要約

この論文はアルゴリズム的リコースを調査し、対照的説明と結果的推奨を区別し、統一的な定義・定式化・解法を提供するとともに、将来の研究方向と倫理的結びつきを概説します。

ABSTRACT

Machine learning is increasingly used to inform decision-making in sensitive situations where decisions have consequential effects on individuals' lives. In these settings, in addition to requiring models to be accurate and robust, socially relevant values such as fairness, privacy, accountability, and explainability play an important role for the adoption and impact of said technologies. In this work, we focus on algorithmic recourse, which is concerned with providing explanations and recommendations to individuals who are unfavourably treated by automated decision-making systems. We first perform an extensive literature review, and align the efforts of many authors by presenting unified definitions, formulations, and solutions to recourse. Then, we provide an overview of the prospective research directions towards which the community may engage, challenging existing assumptions and making explicit connections to other ethical challenges such as security, privacy, and fairness.

研究の動機と目的

• 広範な設定にわたるリコースの定義・定式化・技術的解法を統一する。
• 因果フレームワーク内で対照的説明と結果的推奨を区別する。
• 実行性・妥当性・多様性・スパーシティなどの制約と実務上の考慮事項を要約する。
• 公正さ・プライバシー・説明責任など、より広い倫理的機械学習トピックの中でリコースを位置づける。

提案手法

• 対照的説明と結果的推奨を区別する統一定義を提示する（Q1 vs Q2）。
• 反実課題と行動のための式(1)と(2)を用いた制約付き最適化問題としてリコースを定式化する。
• 距離・コスト指標（例：MADを用いたマンハッタン距離、混合||d||pノルム）を議論し、それらが解に与える影響を説明する。
• リコースで用いられるモデルタイプ（木ベース、カーネルベース、微分可能、その他）とデータタイプを分類する。
• 実行可能性・妥当性の制約の詳細と、多様性・スパース性が解にどのように組み込まれるかを説明する。
• 50件以上の技術論文の調査（Table 1）を提供し、未解決の課題と今後の方向性を強調する。

実験結果

リサーチクエスチョン

• RQ1 アルゴリズム的意思決定におけるリコースとは何か、そしてそれを説明と推奨の間でどのように統一できるか？
• RQ2 現実的な制約の下で、対照的説明と結果的推奨をどのように定式化・解くことができるか？
• RQ3 因果性・実行可能性・妥当性が、実現可能なリコースの生成においてどのような役割を果たすか？
• RQ4 リコースをより広い倫理的MLの関心と統合する際の主な方法論的ギャップと今後の方向性は何か？

主な発見

• ほとんどのリコース研究は、対照的説明の生成に焦点を当てており、結果的推奨にはあまり焦点を当てていない。
• 微分可能なモデルがリコース手法で最も広くサポートされるクラスである。
• 解は最適性・適用範囲・実行時間・アクセスなどの性質をトレードオフし、単一の統一ベンチマークは存在しない。
• 結果的推奨は因果モデル（SCM）に依存し、アブダクション-アクション-予測のステップのため計算コストが高くなる場合がある。
• 実行可能性と妥当性の制約は異なるものであり、実現可能で信頼できるリコースを得るためには共同で考慮されるべきである。
• この調査は広範な論文群（Table 1）を強調し、リコースとセキュリティ・プライバシー・公正性を結ぶ将来の研究方向を特定する。