[论文解读] Prescriptive Machine Learning for Automated Decision Making: Challenges and Opportunities

Eyke Hüllermeier|arXiv (Cornell University)|Dec 15, 2021

Explainable Artificial Intelligence (XAI)被引用 7

一句话总结

本文主张在规范性机器学习中采用决策理论基础，以实现理性、负责且透明的自动化决策。它提出将规范性机器学习建立在有限理性、不确定性建模和偏好学习之上，以应对传统预测建模无法解决的可靠性、公平性和伦理问责等挑战。

ABSTRACT

Recent applications of machine learning (ML) reveal a noticeable shift from its use for predictive modeling in the sense of a data-driven construction of models mainly used for the purpose of prediction (of ground-truth facts) to its use for prescriptive modeling. What is meant by this is the task of learning a model that stipulates appropriate decisions about the right course of action in real-world scenarios: Which medical therapy should be applied? Should this person be hired for the job? As argued in this article, prescriptive modeling comes with new technical conditions for learning and new demands regarding reliability, responsibility, and the ethics of decision making. Therefore, to support the data-driven design of decision-making agents that act in a rational but at the same time responsible manner, a rigorous methodological foundation of prescriptive ML is needed. The purpose of this short paper is to elaborate on specific characteristics of prescriptive ML and to highlight some key challenges it implies. Besides, drawing connections to other branches of contemporary AI research, the grounding of prescriptive ML in a (generalized) decision-theoretic framework is advocated.

研究动机与目标

• 解决预测性机器学习在支持现实世界自动化决策中的局限性。
• 识别规范性机器学习中的关键挑战，包括缺乏真实决策基准、不确定性表示以及伦理问责问题。
• 倡导向决策理论基础的方法论转变，整合有限理性、偏好学习与伦理准则。
• 通过形式化决策过程中的假设与规范，确保算法决策的透明性、责任性与公平性。

提出的方法

• 将规范性机器学习建立在广义决策理论基础上，使用效用函数和概率分布作为偏好与不确定性的正式表示。
• 引入有限理性，以建模计算约束和在资源限制下的现实决策过程。
• 利用机器学习从数据中推断偏好与不确定性表示，而非预先假设其形式。
• 区分认识性不确定性（知识缺乏）与随机性不确定性（固有随机性），以提升系统可靠性与自我意识。
• 将公平性等伦理准则作为决策过程的正式输入。
• 使用反事实推理评估在缺乏可验证真实基准情况下的决策潜在结果。

实验结果

研究问题

• RQ1 如何系统性地调整机器学习，以支持规范性决策而非仅预测？
• RQ2 在缺乏真实决策基准的情况下，学习最优决策时面临哪些关键技术与伦理挑战？
• RQ3 不确定性——尤其是认识性不确定性——在规范性机器学习系统中应如何正式表示与管理？
• RQ4 如何将有限理性整合到机器学习中，以反映现实决策的约束条件？
• RQ5 如何将公平性及其他伦理原则正式嵌入机器学习代理的决策过程中？

主要发现

• 由于缺乏可验证的决策真实基准，标准预测性机器学习不足以支持规范性决策。
• 规范性机器学习需要弱监督学习，因为最优决策不可直接观测，必须通过反事实推理推断。
• 决策理论基础能够通过形式化偏好与不确定性，实现有原则、透明且合乎伦理的自动化决策。
• 区分认识性与随机性不确定性可增强系统在决策中的可靠性与自我意识。
• 有限理性为建模自动化决策中的计算与认知约束提供了现实框架。
• 公平性等伦理准则必须正式整合进决策模型，而非作为事后调整。