[论文解读] Classification supervisée en grande dimension. Application à l'agrément de conduite automobile

Jean‐Michel Poggi, Christine Tuleau|arXiv (Cornell University)|Oct 29, 2010

Image and Signal Denoising Methods参考文献 24被引用 5

一句话总结

本文提出一种基于小波特征选择与CART树的监督分类方法，用于高维函数型数据。通过利用Breiman方法的变量重要性来选择具有判别性的小波系数，该方法在保留关键信号特征的同时降低维度，在具有显著判别性事件的汽车驾驶评估数据上实现了更高的分类准确率。

ABSTRACT

This work is motivated by a real work problem: objectivization. It consists in explaining the subjective drivability using physical criteria coming from signals measured during experiments. We suggest an approach for the discriminant variables selection trying to take advantage of the functional nature of the data. The porblem is ill-posed, since the number of explanatory variables is hugely greater than the sample size. The strategy proceeds in three steps: a signal preprocessing including wavelet denoising and synchronization, dimensionality reduction by compression using a common wavelet basis, and finally the selection of useful variables using a stepwise strategy involving successive applications of the CART method.

研究动机与目标

• 为解决监督分类中高维函数型数据的挑战，特别是在汽车驾驶评估中的应用。
• 通过变量重要性度量，从波系数包中识别并选择最具判别性的特征。
• 在保留与有意义驾驶事件相关的信号特征的同时降低维度。
• 通过两阶段流程（特征选择后接基于CART的分类）提升分类准确率。
• 在具有可识别判别性事件的真实驾驶数据上展示该方法的有效性。

提出的方法

• 对于每个函数型变量 j，训练一棵CART树 A^j，以波系数包 C^j 作为自变量来解释响应变量 Y。
• 计算Breiman等人提出的变量重要性得分，以评估每个波系数在分类中的贡献。
• 对重要性得分施加阈值，仅保留最相关的系数，形成降维后的系数包 ×C^j。
• 选择过程如图6所示，超过重要性阈值的系数被保留为 ×C^j。
• 基于对应CART树的交叉验证误差，对新函数型变量（即选定的 ×C^j）进行排序。
• 该方法整合了小波分解、基于重要性的滤波以及基于树的分类，高效处理高维函数型数据。

实验结果

研究问题

• RQ1 如何有效选择波系数包以提升高维函数型数据中的分类性能？
• RQ2 哪些波系数对应于驾驶信号中的判别性事件？
• RQ3 CART树的变量重要性能否可靠识别函数型数据中的有意义信号标记？
• RQ4 对变量重要性进行阈值处理如何影响分类误差与特征相关性？
• RQ5 通过基于重要性的选择进行降维，在汽车驾驶数据中在多大程度上能保持信号的判别能力？

主要发现

• 变量重要性谱图中重要性得分较高的系数不仅对应于信号形状标记，也对应于驾驶数据中的判别性事件。
• 该方法成功识别出对分类贡献最大的关键小波系数（例如 j=17,22），如图6所示。
• 对变量重要性施加阈值能有效过滤掉非判别性系数，在降低维度的同时保持预测能力。
• CART树的交叉验证误差为选定函数型变量的排序提供了可靠依据。
• 该方法表明，基于小波的特征选择结合变量重要性指导，可显著提升真实驾驶数据上的分类性能。
• 该方法实现了对形态上和判别性上均显著的信号事件的可解释性识别。