[論文レビュー] Strategic Adaptation to Classifiers: A Causal Perspective

John A. Miller, Smitha Milli+1 more|arXiv (Cornell University)|Oct 23, 2019

Experimental Behavioral Economics Studies被引用数 5

ひとこと要約

本稿は意思決定における戦略的適応をモデル化するための因果フレームワークを導入し、入力を操作する『ゲーム化』（gaming）と本質的な行動変容を伴う『改善』（improvement）の区別を行う。改善を奨励することは意思決定者にとって有益であり、インcentive設計の複雑さが因果推論の問題に還元されることを示している。

ABSTRACT

Consequential decision-making incentivizes individuals to adapt their behavior to the specifics of the decision rule. A long line of work has therefore sought to understand and anticipate adaptation, both to prevent strategic individuals from the decision rule and to explicitly motivate individuals to improve. In this work, we frame the problem of adaptation as performing interventions in a causal graph. With this causal perspective, we make several contributions. First, we articulate a formal distinction between gaming and improvement. Second, we formalize strategic classification in a new way that recognizes that the individual may improve, rather than only game. In this setting, we show that it is beneficial for the decision-maker to incentivize improvement. Third, we give a reduction from causal inference to designing incentivizes for improvement. This shows that designing good incentives, while desirable, is at least as hard as causal inference.

研究の動機と目的

• 意思決定における戦略的行動を因果グラフにおける干渉として形式化すること。
• ルールの抜け目を突く『ゲーム化』（gaming）と、本質的な行動の向上を伴う『改善』（improvement）の明確な区別をなすこと。
• 戦略的分類を再定式化し、ゲーム化と改善の両方が個人の可能な反応として許容されることを可能にすること。
• 改善を奨励することが意思決定者にとって戦略的に有益であることを示すこと。
• インセンティブ設計問題を因果推論問題に還元することを確立し、前者が後者以上に難しいことを示すこと。

提案手法

• 個人の適応行動を構造的因果モデル（SCM）における干渉としてモデル化し、個人が意思決定ルールに応じて特徴量をどのように変更するかを表現すること。
• ゲーム化を意思決定ルールの抜け目を突く特徴量の操作と定義し、改善を潜在的な結果分布を本質的に変化させる変化と定義すること。
• 潜在的アウトカムと反事後的推論を用いて、個人の行動が分類結果に与える影響を形式化すること。
• 意思決定者が個人をゲーム化ではなく改善へ誘導できるようにインセンティブを設計するフレームワークを導入すること。
• 有効なインセンティブを設計する問題を因果推論の問題に還元し、計算複雑度の同等性を示すこと。
• do計算式と干渉の意味論を用いて、インセンティブが結果分布に与える影響を分析すること。

実験結果

リサーチクエスチョン

• RQ1 意思決定の文脈内で、ゲーム化と改善をどのように正式に区別できるか？
• RQ2 個人がシステムをゲーム化するのではなく、自らの特徴を改善するのを許容した場合の戦略的結果は何か？
• RQ3 意思決定者がゲーム化ではなく改善を奨励することが最適となる条件は何か？
• RQ4 改善のためのインセンティブ設計の複雑さは、因果推論の複雑さとどのように関係するか？
• RQ5 インセンティブ設計問題を正式な因果モデルにおける因果推論問題に還元できるか？

主な発見

• 本稿は、意思決定ルールの抜け目を意図的に突く『ゲーム化』（gaming）と、本質的な行動の向上を伴う『改善』（improvement）の明確な形式的区別を確立している。
• 改善を奨励することは、個人のインセンティブを真の目的と一致させることで、意思決定者にとってより良い長期的結果をもたらす。
• 改善のための有効なインセンティブを設計する問題は、因果推論の問題以上に難しいことが示され、計算上の下界が確立された。
• 戦略的分類は、ゲーム化だけでなく改善も有効な反応として許容できるように、意味的に再解釈できる。
• 因果フレームワークにより、意思決定者は適切に設計された干渉を通じて個人の行動を予測・形状できる。
• インセンティブ設計問題を因果推論問題に還元する手法により、前者を解くには後者を解くことが必須であることが示された。