[论文解读] Coefficients' Settings in Particle Swarm Optimization: Insight and Guidelines

Mauro S. Innocente, Johann Sienz|arXiv (Cornell University)|Jan 28, 2021

Metaheuristic Optimization Algorithms Research被引用 8

一句话总结

本文对粒子群优化（PSO）中的系数设置进行了全面分析，提出了一种广义公式化方法，以更好地控制粒子轨迹。该研究提供了实用的指导原则，用于选择惯性系数、认知系数和社会系数，以实现期望的收敛行为，并深入探讨了系数取值如何影响探索与开发的平衡以及收敛速度。

ABSTRACT

Particle Swam Optimization is a population-based and gradient-free optimization method developed by mimicking social behaviour observed in nature. Its ability to optimize is not specifically implemented but emerges in the global level from local interactions. In its canonical version, there are three factors that govern a particle's trajectory: 1) inertia from its previous displacement; 2) attraction to its best experience; and 3) attraction to a given neighbour's best experience. The importance given to each of these factors is regulated by three coefficients: 1) the inertia; 2) the individuality; and 3) the sociality weights. Their settings rule the trajectory of the particle when pulled by these two attractors. Different speeds and forms of convergence of a particle towards its attractor(s) take place for different settings of the coefficients. A more general formulation is presented aiming for a better control of the embedded randomness. Guidelines to select the coefficients' settings to obtain the desired behaviour are offered. The convergence speed of the algorithm also depends on the speed of spread of information within the swarm. The latter is governed by the structure of the neighbourhood, whose study is beyond the scope of this paper. The objective here is to help understand the core of the PSO paradigm from the bottom up by offering some insight into the form of the particles' trajectories, and to provide some guidelines as to how to decide upon the settings of the coefficients in the particles' velocity update equation in the proposed formulation to obtain the type of behaviour desired for the problem at hand. General-purpose settings are also suggested. The relationship between the proposed formulation and both the classical and constricted PSO formulations are also provided.

研究动机与目标

• 理解PSO动力学中系数的作用及其对收敛行为的影响。
• 提出一种广义的PSO速度更新方程公式化方法，以增强对粒子轨迹的控制能力。
• 基于期望的优化行为（如快速收敛、鲁棒探索）提供实用的系数取值选择指导。
• 将所提出的公式化方法与经典PSO及压缩因子方法相关联。
• 支持研究人员根据具体优化问题选择合适的系数，而无需依赖试错法。

提出的方法

• 提出一种具有可调惯性、认知（个体性）和社会（社会性）分量系数的广义PSO公式化方法。
• 通过调节对个体最优和全局最优位置的吸引力，分析不同系数设置对粒子轨迹和收敛速度的影响。
• 引入数学框架，以建模随机性及系数平衡对群集动力学的影响。
• 推导所提公式化方法与经典PSO及压缩因子方法之间的关系。
• 结合分析与实证洞察，将系数取值范围映射到特定行为（如振荡、快速收敛）。
• 基于期望的优化特性，提供通用的系数推荐方案。

实验结果

研究问题

• RQ1 惯性系数、认知系数和社会系数的不同设置如何影响PSO的收敛速度与稳定性？
• RQ2 所提出的广义PSO公式化方法与经典PSO或压缩因子方法之间存在何种关系？
• RQ3 如何系统性地选择系数设置，以实现特定的优化行为（如探索与开发的权衡）？
• RQ4 系数取值在控制群集内信息传播与粒子轨迹形状方面发挥何种作用？
• RQ5 在多样化的优化问题中，实现鲁棒高效收敛的最优系数范围是什么？

主要发现

• 所提出的广义公式化方法通过解耦惯性、认知与社会分量的影响，实现了对粒子轨迹更精确的控制。
• 系数设置显著影响收敛速度：较高的惯性系数促进探索，而较高的认知与社会权重则加速收敛。
• 本文建立了系数取值与可观测行为（如振荡运动或稳定收敛）之间的清晰映射关系。
• 在特定系数约束下，该公式化方法在数学上等价于经典PSO，并在适配参数下与压缩因子方法保持一致。
• 提供了通用的系数推荐方案，使研究人员可基于期望的优化动力学选择设置，而无需大量调参。
• 研究表明，不恰当的系数设置可能导致早熟收敛或振荡行为，凸显了合理选择的重要性。