[論文レビュー] Prescriptive Machine Learning for Automated Decision Making: Challenges and Opportunities

Eyke Hüllermeier|arXiv (Cornell University)|Dec 15, 2021

Explainable Artificial Intelligence (XAI)被引用数 7

ひとこと要約

この論文は、意思決定理論的基盤を確立することで、合理的で責任があり、透明な自動意思決定を可能にする、規範的機械学習における意思決定理論的基盤の重要性を主張している。本稿では、限界的合理性、不確実性のモデル化、好みの学習を根拠にすることで、従来の予測的モデリングを超えて、信頼性、公平性、倫理的責任の課題に対処する。

ABSTRACT

Recent applications of machine learning (ML) reveal a noticeable shift from its use for predictive modeling in the sense of a data-driven construction of models mainly used for the purpose of prediction (of ground-truth facts) to its use for prescriptive modeling. What is meant by this is the task of learning a model that stipulates appropriate decisions about the right course of action in real-world scenarios: Which medical therapy should be applied? Should this person be hired for the job? As argued in this article, prescriptive modeling comes with new technical conditions for learning and new demands regarding reliability, responsibility, and the ethics of decision making. Therefore, to support the data-driven design of decision-making agents that act in a rational but at the same time responsible manner, a rigorous methodological foundation of prescriptive ML is needed. The purpose of this short paper is to elaborate on specific characteristics of prescriptive ML and to highlight some key challenges it implies. Besides, drawing connections to other branches of contemporary AI research, the grounding of prescriptive ML in a (generalized) decision-theoretic framework is advocated.

研究の動機と目的

• 実世界の状況における自動意思決定を支援する予測的機械学習の限界を是正すること。
• 限界的真実の意思決定の欠如、不確実性の表現、倫理的責任の欠如といった、規範的機械学習における主な課題を特定すること。
• 限界的合理性、好みの学習、倫理的基準を統合する意思決定理論的基盤へのメソドロジカルな転換を提唱すること。
• 意思決定プロセスにおける仮定と規範を形式化することで、アルゴリズム的意思決定の透明性、責任、公平性を確保すること。

提案手法

• 一般化意思決定理論に基づいて規範的機械学習を根拠づけ、効用関数と確率分布を好みと不確実性の形式的表現として用いる。
• 計算制約とリソース制限下での現実的意志決定をモデル化するため、限界的合理性を統合する。
• 事前に指定されたものとして仮定するのではなく、データから好みと不確実性の表現を機械学習によって推定する。
• 信頼性と自己認識を向上させるために、認識的不確実性（知識不足）とアレアトリック不確実性（本質的ランダムネス）を区別する。
• 公平性などの倫理的基準を意思決定プロセスへの形式的入力として統合する。
• 検証可能な真実のない状況における意思決定の潜在的結果を評価するために、反事後的推論を用いる。

実験結果

リサーチクエスチョン

• RQ1 機械学習をどのように体系的に再設計すれば、単なる予測ではなく、規範的意思決定を支援できるか？
• RQ2 真の意思決定が利用できない状況で、最適な意思決定を学ぶ際の主な技術的・倫理的課題は何か？
• RQ3 不確実性、特に認識的不確実性を、規範的機械学習システムで形式的に表現・管理する方法は何か？
• RQ4 限界的合理性を機械学習に統合することで、現実的な意思決定制約を反映する方法は何か？
• RQ5 公平性やその他の倫理的原則を、機械学習エージェントの意思決定プロセスに形式的に組み込む方法は何か？

主な発見

• 意思決定の検証可能な真実が存在しないため、標準的な予測的機械学習は規範的意思決定に不十分である。
• 規範的機械学習では、最適な意思決定が直接観測できないため、反事後的推論を通じて推定する必要がある弱い教師信号からの学習が不可欠である。
• 意思決定理論的基盤により、好みと不確実性を形式化することで、原理的で透明性があり、倫理的に正当化された自動意思決定が可能になる。
• 認識的不確実性とアレアトリック不確実性の区別は、意思決定におけるシステムの信頼性と自己認識を向上させる。
• 限界的合理性は、自動意思決定における計算的・認知的制約を現実的にモデル化するための有効なフレームワークを提供する。
• 公平性などの倫理的基準は、事後的な調整として扱うのでなく、意思決定モデルに形式的に統合されるべきである。