[论文解读] Concept Bottleneck Models

Pang Wei Koh, Thao Nguyen+5 more|arXiv (Cornell University)|Jul 9, 2020

Machine Learning in Bioinformatics被引用 150

一句话总结

该论文提出概念瓶颈模型，先从输入数据预测由人类指定的概念，然后再从这些概念预测最终目标，从而实现测试时干预并在不牺牲任务准确性的情况下提高可解释性。

ABSTRACT

We seek to learn models that we can interact with using high-level concepts: if the model did not think there was a bone spur in the x-ray, would it still predict severe arthritis? State-of-the-art models today do not typically support the manipulation of concepts like "the existence of bone spurs", as they are trained end-to-end to go directly from raw input (e.g., pixels) to output (e.g., arthritis severity). We revisit the classic idea of first predicting concepts that are provided at training time, and then using these concepts to predict the label. By construction, we can intervene on these concept bottleneck models by editing their predicted concept values and propagating these changes to the final prediction. On x-ray grading and bird identification, concept bottleneck models achieve competitive accuracy with standard end-to-end models, while enabling interpretation in terms of high-level clinical concepts ("bone spurs") or bird attributes ("wing color"). These models also allow for richer human-model interaction: accuracy improves significantly if we can correct model mistakes on concepts at test time.

研究动机与目标

• 通过使模型推理与实践者使用的高级概念（例如骨刺、关节间隙变窄）保持一致，来激励交互式AI系统。
• 提出一种实用方法，将任何端到端神经网络转换为概念瓶颈模型，使用瓶颈层和辅助损失。
• 证明概念瓶颈模型在实现竞争性任务性能的同时，能够实现概念级干预。
• 评估概念瓶颈与真实概念的一致性程度，并探索对协变量偏移的鲁棒性。

提出的方法

• 通过将大小等于概念数量k的瓶颈层插入到现有网络中，方法是调整一个层的大小。
• 使用辅助损失L_C对齐瓶颈神经元与给定概念c（逐分量地）。
• 比较独立、顺序和联合瓶颈训练方案与标准端到端模型的表现。
• 在两个任务上进行评估：膝部X线分级（OAI）和鸟类物种识别（CUB），使用概念注释c和目标y。
• 评估概念准确性、任务准确性、数据效率，以及通过操纵预测的概念c_hat进行测试时干预的潜力。

实验结果

研究问题

• RQ1 概念瓶颈模型在预测可解释概念的同时，是否能实现与标准端到端模型竞争的任务性能？
• RQ2 在测试时对预测概念进行干预是否能提高最终任务准确性，以及在何种条件下？
• RQ3 独立、顺序和联合瓶颈训练策略如何在任务准确性、概念准确性和干预性之间权衡？
• RQ4 相较于标准端到端模型，概念瓶颈模型对协变量偏移是否更鲁棒？

主要发现

模型	y RMSE（OAI）	y Error（CUB）
Independent	0.435 ± 0.024	0.240 ± 0.012
Sequential	0.418 ± 0.004	0.243 ± 0.006
Joint	0.418 ± 0.004	0.199 ± 0.006
Standard	0.441 ± 0.006	0.175 ± 0.008
no bottleneck	0.443 ± 0.008	0.173 ± 0.003
Multitask	0.425 ± 0.010	0.162 ± 0.002

• 概念瓶颈模型在OAI和CUB上实现了与标准端到端模型竞争的任务准确性，同时达到较高的概念准确性。
• 联合瓶颈在任务性能上可与或超过标准模型，并产生良好的概念准确性（在OAI上平均概念RMSE约0.53；CUB约0.03–0.034概念RMSE）。
• 通过线性探针进行事后概念分析的效果不及对齐概念的训练模型，凸显了显式概念监督的价值。
• 通过测试时用真实值替换预测概念的干预可以显著提高任务准确性，尤其是对OAI；有效性取决于训练方案和模型非线性。
• 在CUB的干预在针对概念组时显示出显著的收益，独立瓶颈通常比顺序/联合变体更易于干预。
• 瓶颈模型对背景偏移（TravelingBirds）表现出鲁棒性，在协变量偏移下实现比标准模型更低的任务误差。