[论文解读] AI, Meet Human: Learning Paradigms for Hybrid Decision Making Systems

Clara Punzi, Roberto Pellungrini+3 more|arXiv (Cornell University)|Feb 9, 2024

Complex Systems and Decision MakingDecision Sciences被引用 3

一句话总结

本文提出了一种混合决策系统全面的分类法，将其划分为三种学习范式：人类监督、学会放弃和共同学习。该研究综合现有文献，为建模人机交互提供了概念性与技术性框架，强调在高风险应用中实现相互学习、建立信任以及优化性能。

ABSTRACT

Everyday we increasingly rely on machine learning models to automate and support high-stake tasks and decisions. This growing presence means that humans are now constantly interacting with machine learning-based systems, training and using models everyday. Several different techniques in computer science literature account for the human interaction with machine learning systems, but their classification is sparse and the goals varied. This survey proposes a taxonomy of Hybrid Decision Making Systems, providing both a conceptual and technical framework for understanding how current computer science literature models interaction between humans and machines.

研究动机与目标

• 为机器学习系统中人机交互缺乏统一分类的问题提供解决方案。
• 识别并形式化关键学习范式，以实现人类与人工智能在决策过程中的有效协作。
• 分析当前混合系统在沟通、人力投入和系统适应性方面的优势、局限与开放挑战。
• 通过提供一个结构化框架，支持未来研究设计可信赖、透明且高效的混合决策系统。
• 突出当前系统中的关键缺口，例如不确定性表达不佳以及对异质人类用户的适应性不足。

提出的方法

• 基于人类与机器在学习和决策过程中的角色，提出混合决策系统的正式分类法。
• 将系统划分为三种范式：人类监督（人类验证AI输出）、学会放弃（人类知识嵌入数据以实现模型适应）和共同学习（人类主动纠正AI推理）。
• 分析各范式下的现有工作，识别核心技术如不确定性估计、主动学习和基于反馈的微调。
• 提出一个概念性框架，用于建模人类与机器智能体的联合行为，包括其计算步骤与交互动态。
• 从信任、透明度、公平性和可靠性角度评估系统，强调双向学习与相互理解。
• 识别技术与以用户为中心的挑战，如人类反馈缺乏可解释性，以及对多样化用户类型适应不足。

实验结果

研究问题

• RQ1 如何系统化地对决策系统中的人机交互进行分类与形式化？
• RQ2 在混合系统中，人类监督、学会放弃与共同学习范式之间的关键差异与权衡是什么？
• RQ3 当前的混合系统如何处理不确定性、信任以及人机之间的相互学习？
• RQ4 在沟通、人力投入和适应性方面，混合系统面临的主要开放挑战是什么？
• RQ5 如何设计混合系统以支持多样化的用户，并防止恶意或不一致输入导致的误用或性能退化？

主要发现

• 三种学习范式——人类监督、学会放弃与共同学习——的分类法为人理解与设计混合决策系统提供了基础框架。
• 当前系统往往未能有效向人类传达不确定性或推理过程，限制了信任与有效协作，尤其在人类监督与学会放弃场景中。
• 人机协作因人类劳动成本过高而受阻，特别是在数据标注方面，且缺乏有效机制减轻这一负担。
• 现有系统普遍为单语种且缺乏灵活性，无法适应异质人类用户或有效处理多位专家输入。
• 恶意或冲突的人类输入未被充分建模或防护，使系统面临投毒攻击与性能退化风险。
• 双向学习——即人类与机器相互学习——对于构建可信赖、可靠且具备适应性的混合系统至关重要。