[论文解读] On Interactive Machine Learning and the Potential of Cognitive Feedback

Chris J. Michael, Dina Acklin+1 more|arXiv (Cornell University)|Mar 23, 2020

AI-based Problem Solving and Planning参考文献 37被引用 4

一句话总结

本文提出面向防御应用的交互式机器学习（IML），强调通过认知反馈增强人机协同系统，以提升信任度、可用性与适应性。提出三种认知反馈方法——自报式、隐式反馈与建模反馈，动态地将分析师的实时认知状态信息融入机器学习模型，显著提升模型性能与分析师在动态、高风险环境下的工作效率。

ABSTRACT

In order to increase productivity, capability, and data exploitation, numerous defense applications are experiencing an integration of state-of-the-art machine learning and AI into their architectures. Especially for defense applications, having a human analyst in the loop is of high interest due to quality control, accountability, and complex subject matter expertise not readily automated or replicated by AI. However, many applications are suffering from a very slow transition. This may be in large part due to lack of trust, usability, and productivity, especially when adapting to unforeseen classes and changes in mission context. Interactive machine learning is a newly emerging field in which machine learning implementations are trained, optimized, evaluated, and exploited through an intuitive human-computer interface. In this paper, we introduce interactive machine learning and explain its advantages and limitations within the context of defense applications. Furthermore, we address several of the shortcomings of interactive machine learning by discussing how cognitive feedback may inform features, data, and results in the state of the art. We define the three techniques by which cognitive feedback may be employed: self reporting, implicit cognitive feedback, and modeled cognitive feedback. The advantages and disadvantages of each technique are discussed.

研究动机与目标

• 解决因信任度低、可用性差及难以适应任务环境变化而导致的机器学习在防御领域应用缓慢的问题。
• 通过将人类分析师作为模型训练与优化的积极参与者，克服传统自动机器学习（AML）的局限性。
• 识别当前IML系统中的关键缺口，特别是缺乏对反映实时人类心理状态的认知反馈整合。
• 提出并评估三种不同的认知反馈机制——自报式、隐式反馈与建模反馈，以增强IML系统。
• 推动以人为本、可适应的机器学习系统的发展，支持领域专家在复杂、时间敏感的防御任务中高效运作。

提出的方法

• 实施一种交互式机器学习（IML）架构，分析师通过人机界面（HCI）迭代地标注和修正模型预测结果。
• 通过任务执行期间的问卷或提示收集自报的认知状态（如工作量、不确定性）。
• 利用行为与生理信号（如眼动追踪、反应时间、脑电图EEG）捕捉隐式认知反馈。
• 采用计算认知模型（如ACT-R、SOAR）模拟用户行为，无需直接输入即可推断认知负荷或决策不确定性。
• 利用反馈数据动态调整模型特征、重新加权训练样本，或在主动学习循环中优先采样数据。
• 将认知反馈与传统IML评估指标（如分类准确率、修正率）结合，评估系统性能与分析师工作负荷。

实验结果

研究问题

• RQ1 认知反馈在防御应用中如何提升交互式机器学习系统的可用性与适应性？
• RQ2 自报式、隐式认知反馈与建模认知反馈在IML系统中的相对优势与局限性是什么？
• RQ3 在动态、关键任务环境中，整合认知反馈在多大程度上可降低分析师认知负荷并提升任务表现？
• RQ4 如何在不干扰分析师工作流程的前提下，有效实时采集与建模认知反馈？
• RQ5 认知反馈是否能增强模型泛化能力，并减少在未预见或演变的任务情境中对大量人工重训练的需求？

主要发现

• 认知反馈——尤其是隐式与建模反馈——可通过实时响应分析师工作量与不确定性显著提升IML性能。
• 自报式反馈可直接揭示分析师心理状态，但在高节奏环境中可能因认知负担过大而不切实际。
• 基于行为与生理信号的隐式认知反馈，在将认知特征整合入模型后，优于传统机器学习方法。
• 采用ACT-R或SOAR等架构的建模认知反馈可模拟用户行为，支持IML系统的预测性自适应。
• 整合认知反馈可实现更高效的模型优化与更高的分析师生产力，尤其在动态或未预见的作战情境中。
• 认知反馈与主动学习结合可提升数据效率，并随时间减少所需的手动修正次数。