[论文解读] Human-in-the-loop Machine Learning: A Macro-Micro Perspective

Jiangtao Wang, Bin Guo+1 more|arXiv (Cornell University)|Feb 21, 2022

Anomaly Detection Techniques and Applications被引用 11

一句话总结

本文提出了一种人机协同机器学习（HML）的宏观-微观框架，分析了人类参与如何在整个生命周期中提升机器学习效果。该研究识别了关键挑战，回顾了各阶段的人类整合方式，并提出了未来研究方向，以弥合协作式人工智能系统中的差距。

ABSTRACT

Though technical advance of artificial intelligence and machine learning has enabled many promising intelligent systems, many computing tasks are still not able to be fully accomplished by machine intelligence. Motivated by the complementary nature of human and machine intelligence, an emerging trend is to involve humans in the loop of machine learning and decision-making. In this paper, we provide a macro-micro review of human-in-the-loop machine learning. We first describe major machine learning challenges which can be addressed by human intervention in the loop. Then we examine closely the latest research and findings of introducing humans into each step of the lifecycle of machine learning. Finally, we analyze current research gaps and point out future research directions.

研究动机与目标

• 考察人类智能在克服完全自动化机器学习系统局限性中的作用。
• 识别从人机协同干预中受益的核心机器学习挑战。
• 分析近期关于机器学习全生命周期中人类整合的研究。
• 揭示当前人机协作在机器学习中研究的局限与空白。
• 提出推进稳健且可扩展的人机协同机器学习系统所需的研究方向。

提出的方法

• 对从数据收集到模型部署的完整机器学习生命周期中的人机协同机器学习进行系统性综述。
• 将人类参与划分为宏观层面（系统设计、政策与治理）和微观层面（交互反馈、标注与修正）。
• 分析各阶段的人类贡献：数据收集、特征工程、模型训练、评估与部署。
• 综合近期关于人类反馈机制、主动学习与交互式人工智能系统的研究成果。
• 采用双重视角评估人机协作的战略（宏观）与操作（微观）维度。
• 识别将人类输入整合进机器学习流水线中的技术、伦理与可用性挑战。

实验结果

研究问题

• RQ1 哪些机器学习挑战可通过人机协同机制得到有效解决？
• RQ2 人类应如何在机器学习生命周期的各个阶段实现有意义的整合？
• RQ3 当前人机协同机器学习研究存在哪些局限与空白？
• RQ4 在机器学习的人机协作中，存在哪些关键技术、伦理与可用性挑战？
• RQ5 为推进稳健且可扩展的人机协同机器学习系统，需要哪些未来研究方向？

主要发现

• 人机协同方法在数据稀缺或模糊的情境下显著提升了模型性能。
• 人类反馈增强了模型的可解释性与公平性，尤其在医疗与法律等高风险领域。
• 微观层面的干预措施（如主动学习与交互式标注）在保持准确性的前提下降低了标注成本。
• 宏观层面的人类参与（如政策设计与价值对齐）提升了系统的可信度与长期可靠性。
• 当前研究空白包括评估指标不一致、人类反馈收集缺乏标准化，以及交互式系统可扩展性有限。
• 未来工作应聚焦于自适应人机接口、结合人类反馈的持续学习，以及形式化人机协同设计模式。