[论文解读] Regularizing Attention Networks for Anomaly Detection in Visual Question Answering

Doyup Lee, Yeongjae Cheon+1 more|arXiv (Cornell University)|Sep 21, 2020

Multimodal Machine Learning Applications参考文献 33被引用 5

一句话总结

本文提出了一种基于注意力的异常检测方法，用于视觉问答（VQA）模型，利用跨模态注意力置信度检测分布外（OOD）图像、OOD问题以及无关的图像-问题对——其性能优于传统方法（如最大Softmax概率MSP和异常暴露OE）。此外，本文引入了注意力分布的最大熵正则化，显著提升了鲁棒性，同时未降低VQA准确率，确立了跨模态注意力在多模态异常检测中的关键作用。

ABSTRACT

For stability and reliability of real-world applications, the robustness of DNNs in unimodal tasks has been evaluated. However, few studies consider abnormal situations that a visual question answering (VQA) model might encounter at test time after deployment in the real-world. In this study, we evaluate the robustness of state-of-the-art VQA models to five different anomalies, including worst-case scenarios, the most frequent scenarios, and the current limitation of VQA models. Different from the results in unimodal tasks, the maximum confidence of answers in VQA models cannot detect anomalous inputs, and post-training of the outputs, such as outlier exposure, is ineffective for VQA models. Thus, we propose an attention-based method, which uses confidence of reasoning between input images and questions and shows much more promising results than the previous methods in unimodal tasks. In addition, we show that a maximum entropy regularization of attention networks can significantly improve the attention-based anomaly detection of the VQA models. Thanks to the simplicity, attention-based anomaly detection and the regularization are model-agnostic methods, which can be used for various cross-modal attentions in the state-of-the-art VQA models. The results imply that cross-modal attention in VQA is important to improve not only VQA accuracy, but also the robustness to various anomalies.

研究动机与目标

• 定义并评估五种基于OOD状态和可回答性的VQA异常类型，以解决现实世界中的鲁棒性缺口。
• 识别将单模态异常检测方法（如MSP、OE）应用于多模态VQA任务时的局限性。
• 开发一种与模型无关的基于注意力的方法，利用跨模态注意力置信度检测异常。
• 通过注意力分布的最大熵正则化提升VQA模型的鲁棒性，同时保持准确率。
• 证明跨模态注意力不仅对准确率至关重要，也是检测多模态输入中多样化异常的关键。

提出的方法

• 基于图像/问题的OOD状态和可回答性，将VQA异常划分为五类，构建了完整且互斥的故障模式划分。
• 提出最大注意力概率（MAP）作为检测器：图像与问题之间注意力置信度低，表明存在异常。
• 在训练过程中引入跨模态注意力分布的最大熵正则化，以增强异常检测的鲁棒性。
• 在推理后训练阶段应用正则化，提升异常样本上注意力分布的均匀性，避免了异常暴露（OE）中常见的准确率下降问题。
• 采用最先进VQA模型（如BUTD、VQA-Transformer）中的注意力模块，无需架构修改，确保方法与模型无关。
• 采用简单、基于置信度的检测机制，无需额外模型或微调，仅需注意力正则化。

实验结果

研究问题

• RQ1 最大Softmax概率（MSP）能否有效检测VQA中的OOD图像、OOD问题或无关的图像-问题对？
• RQ2 为何标准的单模态异常检测技术（如异常暴露OE）在多模态VQA任务中无法提升鲁棒性？
• RQ3 跨模态注意力置信度能否作为VQA中异常检测的可靠代理？其与基于输出的方法相比表现如何？
• RQ4 注意力分布的最大熵正则化是否能在保持VQA准确率的同时提升异常检测性能？
• RQ5 如何为后训练阶段选择异常样本，以最大化具有双模态输入的多模态模型的鲁棒性？

主要发现

• 尽管在单模态任务中表现良好，MSP在VQA中无法检测OOD图像、OOD问题或无关的图像-问题对。
• 异常暴露（OE）严重降低VQA准确率，尤其在更新注意力模块时，导致其在VQA鲁棒性提升中无效。
• 基于跨模态注意力的最大注意力概率（MAP）在检测无关问题和OOD输入方面达到SOTA性能。
• 注意力分布的最大熵正则化显著提升了异常检测性能，且未降低VQA准确率。
• 所提出的基于注意力的方法与模型无关，可适用于具有不同注意力机制的多种最先进VQA模型。
• 跨模态注意力不仅对VQA准确率至关重要，也是检测多模态输入中多样化现实异常的关键。