[论文解读] General Regression Neural Networks, Radial Basis Function Neural Networks, Support Vector Machines, and Feedforward Neural Networks

Alison Jenkins, Vinika Gupta+1 more|arXiv (Cornell University)|Nov 16, 2019

Traffic Prediction and Management Techniques参考文献 5被引用 4

一句话总结

本研究比较了广义回归神经网络（GRNN）、径向基函数神经网络（RBFNN）、支持向量机（SVM）和前馈神经网络（FFNN），以确定能最大化F1分数和准确率的最优σ值。基于二值化重标注数据集，采用遗传算法优化GRNN，使用Kohonen LVQ进行RBFNN聚类，使用scikit-learn训练SVM和FFNN，结果表明，采用LVQ-II的RBFNN将F1分数提升至0.3726，准确率提升至0.2735，优于非LVQ变体。

ABSTRACT

The aim of this project is to develop a code to discover the optimal sigma value that maximum the F1 score and the optimal sigma value that maximizes the accuracy and to find out if they are the same. Four algorithms which can be used to solve this problem are: Genetic Regression Neural Networks (GRNNs), Radial Based Function (RBF) Neural Networks (RBFNNs), Support Vector Machines (SVMs) and Feedforward Neural Network (FFNNs).

研究动机与目标

• 确定能最大化多个机器学习模型F1分数的最优σ值。
• 识别能最大化分类准确率的最优σ值，并与F1优化的σ值进行比较。
• 评估GRNN、RBFNN、SVM和FFNN在从回归问题衍生的二值化重标注数据集上的性能。
• 评估在RBFNN中引入Kohonen无监督学习与反向传播对模型性能的影响。
• 比较所有四种算法的统计性能指标——准确率、精确率、召回率和F1。

提出的方法

• 使用稳态遗传算法（SSGA）演化广义回归神经网络（GRNN）中的σ值。
• 实现RBFNN的两种变体：一种不使用Kohonen LVQ-I和LVQ-II，另一种使用以优化聚类中心和宽度。
• 使用LVQ-I基于欧几里得距离进行无监督聚类，更新获胜神经元及其邻近单元的权重。
• 使用LVQ-II通过奖励正确分类和惩罚错误分类（引入良心因子）来优化聚类。
• 使用scikit-learn训练SVM，采用线性和径向基函数（RBF）核，训练集与测试集比例为90%:10%。
• 使用Sigmoid激活函数和不同σ值，训练具有1、2和4个隐藏层的前馈神经网络（FFNN）。

实验结果

研究问题

• RQ1 在所测试的模型中，最大化F1分数的σ值是否与最大化准确率的σ值不同？
• RQ2 与标准RBFNN相比，引入Kohonen无监督学习与反向传播对RBFNN性能有何影响？
• RQ3 在二值化重标注数据集中，四种模型——GRNN、RBFNN、SVM或FFNN——中哪一种的F1分数和准确率最高？
• RQ4 LVQ网络中聚类单元主导现象的影响是什么？良心因子如何缓解此问题？
• RQ5 SVM中不同核函数类型（线性与RBF）对F1和准确率的模型性能有何影响？

主要发现

• 采用Kohonen无监督学习与反向传播的RBFNN将F1分数提升至0.3726，显著高于非LVQ变体（0.2342）。
• 采用LVQ-II的RBFNN将准确率提升至0.2735，高于非LVQ版本的0.2367，表明泛化能力更强。
• 采用线性核的SVM（SVM 3）取得最高的F1分数0.4643和准确率0.4342，优于所有其他模型。
• GRNN与EGRNN-I模型表现相近，其中EGRNN-I的准确率（0.4328）和F1分数（0.3369）略高。
• 前馈神经网络（FFNN）表现较差，准确率仅为0.1293，F1分数为0.2986，表明在该数据集上效果有限。
• 不同模型中，优化F1与优化准确率的σ值并不相同，证实两个目标需要独立的超参数调优。