[论文解读] Toward Learning Human-aligned Cross-domain Robust Models by Countering Misaligned Features

Haohan Wang, Zeyi Huang+3 more|arXiv (Cornell University)|Nov 5, 2021

Domain Adaptation and Few-Shot Learning参考文献 61被引用 5

一句话总结

本文提出了一种新颖的泛化误差界，通过整合与人类对齐的特征对齐，以提升机器学习中的跨域鲁棒性。通过识别并对抗那些与人类感知无关但被模型利用的错位特征，该方法提出了一套原则性框架，将人类对齐学习与鲁棒泛化相联系，实证验证表明，在结合数据增强与假设空间正则化时，其性能优于现有方法。

ABSTRACT

Machine learning has demonstrated remarkable prediction accuracy over i.i.d data, but the accuracy often drops when tested with data from another distribution. In this paper, we aim to offer another view of this problem in a perspective assuming the reason behind this accuracy drop is the reliance of models on the features that are not aligned well with how a data annotator considers similar across these two datasets. We refer to these features as misaligned features. We extend the conventional generalization error bound to a new one for this setup with the knowledge of how the misaligned features are associated with the label. Our analysis offers a set of techniques for this problem, and these techniques are naturally linked to many previous methods in robust machine learning literature. We also compared the empirical strength of these methods demonstrated the performance when these previous techniques are combined, with an implementation available at https://github.com/OoDBag/WR

研究动机与目标

• 通过识别与人类感知不一致的特征，解决模型在分布外数据上性能下降的问题。
• 通过整合关于哪些特征无关紧要的人类知识，形式化跨域设置下的泛化误差。
• 提出一种原则性方法，通过最小化对错位特征的依赖，提升模型鲁棒性。
• 将所提方法与既有的鲁棒学习技术相联系，展示其理论与实证优势。
• 通过实证验证结合数据增强与假设空间正则化的有效性，以实现人类对齐学习。

提出的方法

• 推导一种新的泛化误差界，其中包含一个度量人类对齐特征与模型预测特征之间差异的项。
• 引入一个损失项，基于其标签关联性，惩罚模型对与人类判断不一致的特征的依赖。
• 应用最坏情况数据增强（如基于频率的扰动）以使模型对错位特征的利用更具鲁棒性。
• 将数据增强与假设空间正则化结合，以在分布偏移下提升泛化能力。
• 使用不同半径的基于频率的扰动，以模拟对不可察觉的错位特征的鲁棒性，受先前工作启发。
• 设计一种启发式方法（WR），整合数据增强与正则化，并在基准数据集上通过实证方法验证其有效性。

实验结果

研究问题

• RQ1 我们如何形式化定义并量化与人类感知无关但被模型利用的错位特征对跨域泛化的影响？
• RQ2 我们能否将标准泛化误差界扩展，以整合人类对齐的特征偏好，从而提升模型鲁棒性？
• RQ3 现有鲁棒学习方法（如对抗训练与数据增强）与人类对齐特征学习问题有何关联？
• RQ4 结合数据增强与假设空间正则化在提升与人类感知对齐方面的实证性能如何？
• RQ5 一种将人类判断与模型泛化相联系的原则性框架，能否在分布外设置下带来更强的鲁棒性？

主要发现

• 所提出的泛化误差界包含一个显式考虑错位特征与标签关联性的项，从而实现与人类感知的更好对齐。
• 该方法表明，将最坏情况数据增强与假设空间正则化结合，可获得优于单一方法的实证性能。
• 所提出的启发式方法（WR）在四个测试场景的平均性能上优于其他方法，尽管其扰动策略比AugMix等方法更简单。
• 实证结果表明，具有不同半径的基于频率的扰动能有效对抗模型对不可察觉错位特征的依赖。
• 该框架成功将既有的鲁棒学习技术与人类对齐学习相联系，展现出理论与实践的一致性。
• 研究证实，通过明确抑制人类认为无关的特征依赖，可使模型对分布偏移更具鲁棒性。