[论文解读] Explaining Preference-driven Schedules: the EXPRES Framework

Alberto Pozanco, Francesca Mosca+3 more|arXiv (Cornell University)|Mar 16, 2022

Scheduling and Timetabling Solutions被引用 4

一句话总结

本文提出了 EXPRES，一种利用混合整数线性规划（MILP）识别导致个体偏好在最优、偏好驱动的排班中未被满足的最相关原因，并将这些原因转化为人类可读解释的框架。通过仿真和用户研究，J.P. Morgan 的员工更倾向于选择自动化的解释而非人工生成的解释。

ABSTRACT

Scheduling is the task of assigning a set of scarce resources distributed over time to a set of agents, who typically have preferences about the assignments they would like to get. Due to the constrained nature of these problems, satisfying all agents' preferences is often infeasible, which might lead to some agents not being happy with the resulting schedule. Providing explanations has been shown to increase satisfaction and trust in solutions produced by AI tools. However, it is particularly challenging to explain solutions that are influenced by and impact on multiple agents. In this paper we introduce the EXPRES framework, which can explain why a given preference was unsatisfied in a given optimal schedule. The EXPRES framework consists of: (i) an explanation generator that, based on a Mixed-Integer Linear Programming model, finds the best set of reasons that can explain an unsatisfied preference; and (ii) an explanation parser, which translates the generated explanations into human interpretable ones. Through simulations, we show that the explanation generator can efficiently scale to large instances. Finally, through a set of user studies within J.P. Morgan, we show that employees preferred the explanations generated by EXPRES over human-generated ones when considering workforce scheduling scenarios.

研究动机与目标

• 解决在受限环境中，为何某些偏好在最优多智能体排班解决方案中仍无法被满足的解释挑战。
• 开发一种可扩展的自动化解释系统，支持个体理解，同时保护代理隐私。
• 评估在现实世界排班场景中，机器生成的解释是否比人工生成的解释更有效。
• 将解释生成任务形式化为一个优化问题，以识别导致未被满足偏好的最小影响因素集合。

提出的方法

• 将解释生成任务建模为混合整数线性规划（MILP）问题，以寻找能够解释未被满足偏好的最小约束集和已满足偏好集。
• 定义‘参与’和‘受影响’的代理及偏好，以识别影响未被满足偏好的相关因素。
• 采用两阶段流程：首先通过 MILP 生成低层次解释；其次解析并分组为面向最终用户的人类自然语言解释。
• 通过确保解释仅揭示关于其他代理偏好和分配的必要信息，来保护隐私。
• 将该框架集成到 J.P. Morgan 的真实世界劳动力排班系统中，以评估可用性和偏好。
• 将该框架应用于任何具有偏好类型全序关系的排班问题，实现跨领域的泛化。

实验结果

研究问题

• RQ1 自动化系统能否为多智能体排班中的未被满足偏好生成既准确又可解释的解释？
• RQ2 解释生成组件在大规模排班实例上的可扩展性表现如何？
• RQ3 在现实世界的排班场景中，用户是否更偏好机器生成的解释而非人工生成的解释？
• RQ4 解释在多大程度上提升了用户对最优排班的理解与信任？
• RQ5 如何在保护隐私的前提下，根据个体偏好和认知风格定制解释？

主要发现

• EXPRES 框架成功利用 MILP 为未被满足的偏好生成解释，在大规模排班实例中表现出高效的可扩展性。
• 在 J.P. Morgan 的用户研究中，员工在清晰度和感知公平性方面更偏好 EXPRES 自动生成的解释，而非人工撰写的解释。
• 解释生成器准确识别出导致特定偏好未被满足的最关键约束和已满足偏好，提供了可操作的洞察。
• 该框架通过限制关于其他代理偏好和分配信息的披露，有效保护了隐私。
• 解释解析模块成功将低层次的 MILP 输出转化为自然语言解释，这些解释对最终用户而言既准确又易于理解。
• 该方法可泛化至具有偏好类型全序关系的不同排班问题，证明了其在初始用例之外的广泛适用性。