[论文解读] Enabling Incrementality in the Implicit Hitting Set Approach to MaxSAT Under Changing Weights

Yu, Jinqiang, Ignatiev, Alexey+2 more|arXiv (Cornell University)|Oct 19, 2020

Data Mining Algorithms and Applications参考文献 24被引用 4

一句话总结

本论文提出了一种基于SAT的新型增量MaxSAT方法，首次实现了最优完美决策列表的构建——即能够完美分类所有训练数据的最小规模模型。该方法还引入了一种新的最优稀疏决策列表构造方法，在保持模型和解释规模紧凑的同时，实现了高于以往最先进方法的测试准确率。

ABSTRACT

Decision lists are one of the most easily explainable machine learning models. Given the renewed emphasis on explainable machine learning decisions, this machine learning model is increasingly attractive, combining small size and clear explainability. In this paper, we show for the first time how to construct optimal "perfect" decision lists which are perfectly accurate on the training data, and minimal in size, making use of modern SAT solving technology. We also give a new method for determining optimal sparse decision lists, which trade off size and accuracy. We contrast the size and test accuracy of optimal decisions lists versus optimal decision sets, as well as other state-of-the-art methods for determining optimal decision lists. We also examine the size of average explanations generated by decision sets and decision lists.

研究动机与目标

• 开发首个构建最优完美决策列表的方法，以完美分类所有训练数据。
• 设计一种新的最优稀疏决策列表方法，以在模型大小与测试准确率之间实现平衡。
• 从模型大小与平均解释长度的角度，比较决策列表与决策集的性能。
• 评估可解释人工智能中模型大小、准确率与解释简洁性之间的权衡。

提出的方法

• 采用基于SAT的MaxSAT公式化方法，将决策列表构建编码为优化问题。
• 利用增量MaxSAT求解技术，高效探索并优化在权重变化下的决策列表结构。
• 提出一种新型编码方式，直接在决策列表中的位置上下文中构建规则，避免预先挖掘规则。
• 结合分支定界法与对称性破缺及边界技术，确保解的最优性。
• 采用细粒度大小度量，同时惩罚规则数量与文字数量，以偏好紧凑且准确的模型。
• 应用类别排序启发式方法（如 i↑），以提升可扩展性与解的质量。

实验结果

研究问题

• RQ1 能否利用SAT技术高效构建最优完美决策列表？
• RQ2 最优决策列表的模型大小与解释长度与最优决策集相比如何？
• RQ3 在稀疏决策列表优化中，细粒度大小度量是否能带来优于现有方法的测试准确率？
• RQ4 在最优决策列表与决策集之间，模型大小、解释长度与测试准确率之间的权衡关系如何？
• RQ5 增量MaxSAT技术能否有效应用于决策列表优化中的动态权重变化？

主要发现

• 所提出的最优完美决策列表方法生成的模型显著小于最优决策集——平均每个模型仅11.1个文字，而决策集为23.3个。
• 对于完美模型，决策集在解释长度上具有明显优势（每条解释3.3个文字 vs. 9.3个文字），但决策列表在模型大小上更为紧凑。
• 对于稀疏模型，所提方法（sdl[λ2]i↑）实现了69.9%的测试准确率，显著优于corels[λ2]的40.2%。
• 所提方法生成的稀疏决策列表平均解释大小为2.1个文字，小于稀疏决策集（3.4个），且与corels[λ2]（2.3个）具有竞争力。
• 稀疏决策列表的平均模型大小仅为2.4个文字，而稀疏决策集为6.9个，充分体现了其优越的紧凑性。
• 增量MaxSAT方法支持在权重变化下高效优化，可实现决策列表的动态重新优化。