[论文解读] KohonAnts: A Self-Organizing Ant Algorithm for Clustering and Pattern Classification

Carlos M. Fernandes, Antonio M. Mora+3 more|ArXiv.org|Mar 18, 2008

Neural Networks and Applications参考文献 11被引用 24

一句话总结

KohonAnts 提出了一种新颖的自组织蚁群算法，将蚁群优化（Ant Colony Optimization）与柯亨诺夫自组织映射（Kohonen Self-Organizing Maps）相结合，实现聚类与模式分类。每个数据点被建模为在二维网格上移动的蚂蚁，通过更新其占据单元格中的信息素向量以逼近自身数据，从而实现基于信息素的自组织聚类；该方法在基准数据集上仅需极少参数调优即可实现高达100%的分类准确率。

ABSTRACT

In this paper we introduce a new ant-based method that takes advantage of the cooperative self-organization of Ant Colony Systems to create a naturally inspired clustering and pattern recognition method. The approach considers each data item as an ant, which moves inside a grid changing the cells it goes through, in a fashion similar to Kohonen's Self-Organizing Maps. The resulting algorithm is conceptually more simple, takes less free parameters than other ant-based clustering algorithms, and, after some parameter tuning, yields very good results on some benchmark problems.

研究动机与目标

• 开发一种受生物启发的聚类与分类方法，相比现有蚁群算法减少人工参数。
• 将柯亨诺夫自组织映射的自组织原理与蚁群优化的信息素通信机制相结合。
• 通过基于网格的信息素环境实现间接通信，实现数据聚类与分类。
• 在标准基准数据集上评估该方法的性能，尤其关注高分类难度的数据集。
• 证明仅含极少参数的自组织蚁群系统可在无需监督学习的情况下实现具有竞争力的结果。

提出的方法

• 每个数据实例被建模为在二维环形网格上移动的人工蚂蚁，每个网格单元存储一个n维向量以表示信息素。
• 蚂蚁通过使用类似于柯亨诺夫学习更新规则的方式，将其自身数据向量向所在单元格的信息素向量靠近，从而更新该单元格的信息素向量。
• 蚂蚁被吸引至信息素向量与其自身数据最相似的网格单元，从而通过信息素驱动的交互实现聚类。
• 信息素蒸发通过动态更新过程隐式实现，防止停滞并促进收敛。
• 最终的网格配置形成一个认知场，使相似的数据项在空间上聚集，从而通过网格中的邻近性实现分类。
• 该算法基于信息素相似性采用随机移动规则，无需显式路径构建或启发式权重。

实验结果

研究问题

• RQ1 基于信息素驱动与向量化信息素更新的自组织蚁群系统是否能实现具有竞争力的聚类与分类性能？
• RQ2 在高分类难度的基准数据集上，该方法与传统无监督方法（如KNN）相比表现如何？
• RQ3 与现有蚁群聚类算法相比，该算法在多大程度上减少了自由参数的数量？
• RQ4 将柯亨诺夫式向量更新与蚁群式信息素机制相结合，是否能实现无需显式监督的涌现式聚类？
• RQ5 该方法在标准数据集上的运行时间和可扩展性方面具有怎样的计算效率？

主要发现

• KohonAnts 在所有测试集上对Iris数据集实现了100%的分类准确率，多次运行中均优于KNN。
• 在Glass数据集上，KohonAnts 在90tra-10tst-Set3配置下的平均分类准确率为83.48%，在某些情况下优于KNN超过10个百分点。
• 在Pima数据集上，KohonAnts 在90tra-10tst-Set3配置下的平均准确率为80.65%，显著优于KNN的70.10%平均值。
• 使用1.6 GHz Pentium处理器，该算法在Iris数据集上仅需8秒，Glass数据集上10秒，Pima数据集上20秒，表明其具有很高的计算效率。
• 该方法在多个随机种子下表现出鲁棒性，结果标准差极低（例如，在多个配置中Iris数据集的准确率为0.00 ± 0.00）。
• 结果表明，仅含极少参数的无监督蚁群系统可在具有挑战性的基准数据集上实现具有竞争力的性能，尤其在传统方法表现困难的场景中。