[論文レビュー] The Problem with Metrics is a Fundamental Problem for AI

Rachel L. Thomas, David Uminsky|arXiv (Cornell University)|Feb 20, 2020

Computability, Logic, AI Algorithms参考文献 16被引用数 39

ひとこと要約

本論文は、指標の最適化を過度に重視することがAIに負の影響を生むと主張し、複数の指標、質的アカウント、ステークホルダーの関与を用いてこれらの害を緩和する枠組みを提案する。

ABSTRACT

Optimizing a given metric is a central aspect of most current AI approaches, yet overemphasizing metrics leads to manipulation, gaming, a myopic focus on short-term goals, and other unexpected negative consequences. This poses a fundamental contradiction for AI development. Through a series of real-world case studies, we look at various aspects of where metrics go wrong in practice and aspects of how our online environment and current business practices are exacerbating these failures. Finally, we propose a framework towards mitigating the harms caused by overemphasis of metrics within AI by: (1) using a slate of metrics to get a fuller and more nuanced picture, (2) combining metrics with qualitative accounts, and (3) involving a range of stakeholders, including those who will be most impacted.

研究の動機と目的

• AIシステムと社会にとって、単一の指標に依存することがなぜ問題となるのかを動機づける。
• 指標重視の最適化が実世界でどのように負の結果を招くかを実例で検討する。
• 複数の指標・質的データ・多様なステークホルダーを活用して害を緩和する実用的な枠組みを提案する。

提案手法

• 指標の過度な重視による害を示す実世界のケーススタディを提示する。
• オンライン環境とビジネス慣行が指標の失敗を悪化させる様子を分析する。
• 3つの要素からなる枠組みを提案する：指標の選択肢のリスト、質的アカウント、そしてステークホルダーの関与。

実験結果

リサーチクエスチョン

• RQ1 AIにおける指標の過度な重視が引き起こす根本的な害は何か？
• RQ2 実世界の実践とオンライン環境は指標関連の失敗にどのように寄与するか？
• RQ3 多様な指標・質的洞察・ステークホルダーの意見を組み合わせることで害を減らすことのできる枠組みは何か？

主な発見

• 指標の最適化はシステムの操作やゲーム化につながる可能性がある。
• 指標への過度の依存は短期的な焦点を助長し、予期せぬ負の影響を招く。
• 害緩和の枠組みは、複数の指標・質的文脈・ステークホルダーの参加を推奨する。