[論文レビュー] Performative Prediction in a Stateful World

Gavin Brown, Shlomi Hod+1 more|arXiv (Cornell University)|Nov 8, 2020

Machine Learning and Data Classification参考文献 6被引用数 13

ひとこと要約

本稿は、ターゲット集団の応答が特徴量の履歴的分布に依存し、グループ間で遅れを伴う適応をモデル化する、状態を有するパフォーマティブ予測フレームワークを導入する。繰り返しリスク最小化とその遅延版の両方について、均衡への収束を証明し、現実的な応答ダイナミクス下で、グループレベルの結果における近似的最適性と不平等の低減を示す。

ABSTRACT

Deployed supervised machine learning models make predictions that interact with and influence the world. This phenomenon is called performative prediction by Perdomo et al. (ICML 2020). It is an ongoing challenge to understand the influence of such predictions as well as design tools so as to control that influence. We propose a theoretical framework where the response of a target population to the deployed classifier is modeled as a function of the classifier and the current state (distribution) of the population. We show necessary and sufficient conditions for convergence to an equilibrium of two retraining algorithms, repeated risk minimization and a lazier variant. Furthermore, convergence is near an optimal classifier. We thus generalize results of Perdomo et al., whose performativity framework does not assume any dependence on the state of the target population. A particular phenomenon captured by our model is that of distinct groups that acquire information and resources at different rates to be able to respond to the latest deployed classifier. We study this phenomenon theoretically and empirically.

研究の動機と目的

• 過去の分類器の導入が、状態依存の応答ダイナミクスを通じて集団行動に与える影響をモデル化すること。
• グループが異なる速度で予測に適応する環境下での再訓練アルゴリズムの収束を分析すること。
• 情報拡散が社会的グループ間で遅延する場合のパフォーマティブ予測の公平性への影響を調査すること。
• 分布履歴と遷移ダイナミクスを組み込むことで、従来の状態なしパフォーマティブ予測フレームワークを一般化すること。
• アルゴリズム設計（例：遅延再訓練）がグループ間のパフォーマティブ誘発的不平等を緩和できるかどうかを評価すること。

提案手法

• 現在の分布 d と分類器 θ を入力として次の分布を出力する状態的遷移写像 Tr(d; θ) を用いて、パフォーマティブをオンライン学習ゲームとしてモデル化する。
• 3つの理論的例を導入：遅延応答を伴う k グループ、幾何的減衰応答、マルコフ遷移。これらはすべて、従来の状態なしモデルを一般化する。
• 2つの再訓練アルゴリズムを分析：繰り返しリスク最小化（RRM）と k 遅延 RRM。ここで各グループは k ラウンド前の分類器に応答する。
• 両アルゴリズム下で、パフォーマティブに安定な均衡への収束の必要十分条件を確立する。
• 実験的シミュレーションを用いて、モデルの精度とグループ別ネガティブレート（NR）を評価。戦略的応答の利益における公平性を測定。
• 遷移関数の有界な感度と凸損失関数の仮定の下で、理論的保証を適用する。

実験結果

リサーチクエスチョン

• RQ1 遅延グループ応答を伴う状態的パフォーマティブ予測設定において、繰り返しリスク最小化が収束する条件は何か？
• RQ2 k 遅延再訓練バージョンは、標準的な RRM と比較して収束速度と均衡品質の点でどのように異なるか？
• RQ3 グループ間で遅延応答ダイナミクスが存在する場合、予測結果における持続的不平等はどの程度生じるか？
• RQ4 遅延再訓練などのアルゴリズム設計選択が、パフォーマティブ予測におけるグループ別不利要因を軽減できるか？
• RQ5 履歴依存の応答関数を想定した現実的状況下でも、理論的収束保証はどの程度成立するか？

主な発見

• 提案された状態的フレームワークは、分布履歴と遷移ダイナミクスを組み込むことで、従来の状態なしパフォーマティブ予測を一般化している。
• 遷移写像にやや厳しい仮定を置くことで、繰り返しリスク最小化とその k 遅延バージョンの両方について、パフォーマティブに安定な均衡への収束を証明した。
• k 遅延 RRM アルゴリズムは、k=3 および ε=25 の実験的シミュレーションで、標準的な RRM よりも収束が遅いことが示された。
• 初期ラウンド（1 ≤ t < 10）では、k 遅延 RRM において最も優位なグループが、最も劣位なグループよりも 2.09% のネガティブ予測（すなわち、好都合な結果）を多く得ており、残留不平等が確認された。
• RRM では、最初の 10 ラウンドで最も優位なグループが最も劣位なグループより 2.37% のネガティブ予測を多く得ており、アルゴリズム間で類似した不平等レベルが示された。
• 理論的結果から、両アルゴリズムが近似的に最適な分類器に収束することが示され、収束の度合いは遷移関数の過去状態への感度に依存することが分かった。