[论文解读] Teaching Categories to Human Learners with Visual Explanations

Oisin Mac Aodha, Shihan Su+3 more|arXiv (Cornell University)|Feb 20, 2018

Explainable Artificial Intelligence (XAI)参考文献 34被引用 23

一句话总结

本文提出 EXPLAIN，一种机器教学框架，通过在教学图像旁提供可解释的视觉解释（突出显示具有区分性的图像区域），提升人类对视觉类别的学习效果。通过建模学习者如何整合这些解释，该方法在测试阶段的表现显著优于仅提供标签的反馈，在包括蝴蝶、视网膜OCT扫描和汉字在内的多种数据集上均表现出改进。

ABSTRACT

We study the problem of computer-assisted teaching with explanations. Conventional approaches for machine teaching typically only provide feedback at the instance level e.g., the category or label of the instance. However, it is intuitive that clear explanations from a knowledgeable teacher can significantly improve a student's ability to learn a new concept. To address these existing limitations, we propose a teaching framework that provides interpretable explanations as feedback and models how the learner incorporates this additional information. In the case of images, we show that we can automatically generate explanations that highlight the parts of the image that are responsible for the class label. Experiments on human learners illustrate that, on average, participants achieve better test set performance on challenging categorization tasks when taught with our interpretable approach compared to existing methods.

研究动机与目标

• 为解决传统机器教学仅提供类别标签作为反馈的局限性，通过引入可解释的视觉解释来提升人类学习效果。
• 建模人类学习者在类别学习过程中如何整合视觉解释到其决策过程。
• 开发一种教学框架，联合选择信息量丰富的图像并生成人类可理解的解释，且无需额外标注。
• 在多样化的视觉分类任务中，评估可解释反馈在真实人类学习场景下的有效性。
• 证明视觉解释可减少相似类别之间的混淆，并提升对未见测试图像的泛化能力。

提出的方法

• 该框架使用预训练的CNN提取特征表示，并构建建模学习者对类别边界可能信念的假设空间。
• 通过显著性图或注意力机制自动识别具有区分性的图像区域，生成视觉解释，突出显示对分类预测起关键作用的部分。
• 教学算法基于不确定性减少和可解释性选择图像-解释对，以同时优化信息量和清晰度。
• 采用概率学习者模型模拟参与者在接收到解释后如何更新信念，使系统能够预测并优化学习轨迹。
• 解释从现有的标注数据集中生成，无需额外人工标注，降低了数据收集成本。
• 该方法通过真实人类参与者在 Mechanical Turk 上进行评估，比较了不同教学策略（包括仅标签和带解释的策略）的表现。

实验结果

研究问题

• RQ1 与仅提供标签的反馈相比，可解释的视觉解释是否能提升人类学习者在细粒度视觉分类任务中的表现？
• RQ2 视觉解释的整合如何影响学习者对未见测试图像的泛化能力？
• RQ3 在不同视觉领域中，解释质量与可解释性评分在多大程度上影响学习结果？
• RQ4 假设空间的选择（例如基于CNN的嵌入与众包获取的嵌入）是否会影响教学算法的性能？
• RQ5 包含困难或模糊示例的教学序列如何影响学习者表现？解释式教学能否缓解此类影响？

主要发现

• 使用 EXPLAIN 教学的学习者在测试阶段的准确率显著高于仅使用类别标签教学的基准（RAND_IM），尤其在蝴蝶和OCT眼等具有挑战性的数据集上表现更优。
• 在蝴蝶数据集中，EXPLAIN 使更多学习者达到高分，表明学习效率提高，且对相似物种的混淆减少。
• 在OCT眼数据集中，EXPLAIN 降低了混淆矩阵的非对角线项，显示出更低的跨类别误分类率，尤其在黄斑水肿与正常类别之间。
• 在汉字数据集中，基于CNN生成的假设空间因第四张教学图像选择不当导致性能欠佳，但使用众包获取的相似性嵌入（EXPLAIN_CROWD）后性能得到提升。
• 在汉字数据集中，RAND_EXP基线（随机选择图像并结合解释）的表现优于 EXPLAIN，表明解释的可解释性评分与假设空间的一致性是关键影响因素。
• 当使用人工标注的可解释性评分构建与人类感知对齐的嵌入空间（中文-众包）时，EXPLAIN_CROWD 实现了最佳的整体测试性能，证实了与人类感知对齐的重要性。