[论文解读] A Study on the Behavior of a Neural Network for Grouping the Data

Suneetha Chittineni, Raveendra Babu Bhogapathi|arXiv (Cornell University)|Mar 17, 2012

Neural Networks and Applications参考文献 20被引用 5

一句话总结

本文研究了输入数据归一化对K-means快速学习人工神经网络（KFLANN）在高维数据聚类中性能的影响。结果表明，归一化显著提升了聚类准确率和收敛速度，且结果因所采用的归一化方法而异，尤其是在处理非正态分布数据时更为明显。

ABSTRACT

One of the frequently stated advantages of neural networks is that they can work effectively with non-normally distributed data. But optimal results are possible with normalized data.In this paper, how normality of the input affects the behaviour of a K-means fast learning artificial neural network(KFLANN) for grouping the data is presented. Basically, the grouping of high dimensional input data is controlled by additional neural network input parameters namely vigilance and tolerance.Neural networks learn faster and give better performance if the input variables are pre-processed before being fed to the input units of the neural network. A common way of dealing with data that is not normally distributed is to perform some form of mathematical transformation on the data that shifts it towards a normal distribution.In a neural network, data preprocessing transforms the data into a format that will be more easily and effectively processed for the purpose of the user. Among various methods, Normalization is one which organizes data for more efficient access. Experimental results on several artificial and synthetic data sets indicate that the groups formed in the data vary with non-normally distributed data and normalized data and also depends on the normalization method used.

研究动机与目标

• 分析输入数据归一化对KFLANN在数据分组行为中的影响。
• 评估不同归一化技术在非正态分布数据中对聚类结果的影响。
• 确定能提升KFLANN在高维数据分组中性能的最优预处理策略。
• 通过多种数据集比较归一化与非归一化输入数据的聚类结果。

提出的方法

• 本研究采用K-means快速学习人工神经网络（KFLANN）对高维输入数据进行分组。
• 通过多种归一化技术对输入数据进行预处理，以评估其对聚类行为的影响。
• 在KFLANN中使用鲁棒性参数控制分组过程，并在学习过程中保持稳定性。
• 在具有不同分布特性的多个人工和合成数据集上进行实验评估。
• 通过聚类准确率、收敛速度以及分组一致性的指标衡量性能。
• 应用并比较了多种归一化方法，如最小-最大缩放和Z得分归一化。

实验结果

研究问题

• RQ1 输入数据归一化如何影响KFLANN的聚类行为？
• RQ2 不同归一化技术对数据分组的质量与稳定性有何影响？
• RQ3 非归一化数据在高维空间中如何影响KFLANN的收敛性和准确性？
• RQ4 数据预处理在非正态分布数据集中在多大程度上提升了KFLANN的性能？

主要发现

• 在所有测试数据集中，归一化显著提升了KFLANN算法的收敛速度。
• 当输入数据经过归一化后，聚类准确率始终更高，尤其是采用Z得分归一化和最小-最大缩放时。
• 归一化与非归一化数据的分组结果存在显著差异，表明数据分布对聚类形成有重大影响。
• 不同归一化方法产生不同的聚类结果，表明方法选择对实现最佳性能至关重要。
• 在高维非正态数据中，KFLANN在使用归一化输入时表现出更高的稳定性和可靠性。