[论文解读] Clustering-Based Subset Selection in Evolutionary Multiobjective Optimization

Weiyu Chen, Hisao Ishibuchi+1 more|arXiv (Cornell University)|Aug 19, 2021

Advanced Multi-Objective Optimization Algorithms被引用 4

一句话总结

本文系统评估了在进化多目标优化（EMO）中基于聚类的子集选择方法，证明基于IGD的子集选择等价于聚类。该研究在多种场景下对比了多种聚类算法，结果表明K-means++和基于贪婪IGD的子集选择在超体积和计算效率方面优于其他方法，同时提出一种偏好感知的K-medoids变体，优先选择决策者关注的折点区域解。

ABSTRACT

Subset selection is an important component in evolutionary multiobjective optimization (EMO) algorithms. Clustering, as a classic method to group similar data points together, has been used for subset selection in some fields. However, clustering-based methods have not been evaluated in the context of subset selection from solution sets obtained by EMO algorithms. In this paper, we first review some classic clustering algorithms. We also point out that another popular subset selection method, i.e., inverted generational distance (IGD)-based subset selection, can be viewed as clustering. Then, we perform a comprehensive experimental study to evaluate the performance of various clustering algorithms in different scenarios. Experimental results are analyzed in detail, and some suggestions about the use of clustering algorithms for subset selection are derived. Additionally, we demonstrate that decision maker's preference can be introduced to clustering-based subset selection.

研究动机与目标

• 评估不同聚类算法在EMO算法子集选择中的性能。
• 证明基于IGD的子集选择可被解释为一种聚类形式。
• 根据数据集大小和维度，为选择聚类算法提供实用指导。
• 将聚类-based子集选择扩展以融入决策者偏好，特别是对折点区域解的关注。
• 识别现有聚类方法在EMO中的不足，并提出未来算法发展的方向。

提出的方法

• 回顾并分析经典聚类算法，包括K-means、K-means++、K-medoids、DBSCAN和层次聚类。
• 通过基于IGD+指标的改进相似度度量，将基于IGD的子集选择重新表述为聚类问题。
• 在基准多目标测试问题（如DTLZ、MaF3、DEB2DK）上实现并对比多种基于聚类的子集选择方法。
• 通过将欧氏距离替换为强调劣化目标差异的IGD+-基相似度度量，对K-medoids算法进行改进。
• 在小数据集上使用加权平均链接法改进层次聚类的效率。
• 通过在中心点选择中重新加权距离计算，将决策者偏好整合到聚类-based子集选择中，特别关注折点区域的解。

实验结果

研究问题

• RQ1 在不同数据集大小和维度下，不同聚类算法在EMO算法子集选择中的表现如何？
• RQ2 基于IGD的子集选择能否被正式解释为一种基于聚类的方法？
• RQ3 在低维和高维问题中，哪种聚类算法在收敛质量（超体积）和计算成本之间提供了最佳权衡？
• RQ4 如何有效将决策者偏好（特别是对折点区域解的关注）整合到基于聚类的子集选择中？
• RQ5 基于聚类的方法与传统的基于指标的子集选择在EMO中的性能权衡如何？

主要发现

• 对于小数据集，在低维问题中，采用加权平均链接的层次聚类在超体积性能上表现最佳。
• 在高维问题中，基于贪婪IGD的子集选择在超体积质量方面优于所有聚类方法。
• 对于大尺寸数据集（如来自无界外部档案的数据），在低维情况下K-means++在性能与效率之间提供了最佳平衡。
• 在高维情况下，基于贪婪IGD的子集选择在超体积和计算时间方面仍为最优方法。
• 改进后的K-medoids算法通过使用IGD+-基相似度度量，成功优先选择折点区域的解，使子集选择与决策者偏好保持一致。
• 本研究证实，基于IGD的子集选择等价于一个聚类过程，为统一这些方法提供了理论基础。