[论文解读] Heterogeneous Objectives: State-of-the-Art and Future Research

Richard Allmendinger, Joshua Knowles|arXiv (Cornell University)|Feb 26, 2021

Advanced Multi-Objective Optimization Algorithms被引用 11

一句话总结

本文综述了具有异质目标的多目标优化问题——即目标在计算复杂度、评估时间或确定性方面存在差异——并指出现有算法在处理此类异质性方面能力不足。研究聚焦于延迟异质性（慢速与快速目标），综述了基于代理模型和调度的方法，并呼吁开发新型基准测试框架与算法，以应对现实应用中多类型异质性的问题。

ABSTRACT

Multiobjective optimization problems with heterogeneous objectives are defined as those that possess significantly different types of objective function components (not just incommensurable in units or scale). For example, in a heterogeneous problem the objective function components may differ in formal computational complexity, practical evaluation effort (time, costs, or resources), determinism (stochastic vs deterministic), or some combination of all three. A particularly challenging variety of heterogeneity may occur by the combination of a time-consuming laboratory-based objective with other objectives that are evaluated using faster computer-based calculations. Perhaps more commonly, all objectives may be evaluated computationally, but some may require a lengthy simulation process while others are computed from a relatively simple closed-form calculation. In this chapter, we motivate the need for more work on the topic of heterogeneous objectives (with reference to real-world examples), expand on a basic taxonomy of heterogeneity types, and review the state of the art in tackling these problems. We give special attention to heterogeneity in evaluation time (latency) as this requires sophisticated approaches. We also present original experimental work on estimating the amount of heterogeneity in evaluation time expected in many-objective problems, given reasonable assumptions, and survey related research threads that could contribute to this area in future.

研究动机与目标

• 提高对多目标优化中异质目标的认识，其中目标在评估时间、计算复杂度或确定性方面存在差异。
• 识别并分类超出不可公度性范畴的异质性类型，包括延迟、计算成本和随机性。
• 综述现有算法方法在处理延迟异质性方面的作用，尤其关注进化算法和基于代理模型的方法。
• 强调当前对多类型异质性研究的缺乏，以及对定制化基准测试和性能度量的迫切需求。
• 呼吁未来研究开发能够同时处理多种异质性类型的算法，以应对多目标问题中的复杂异质性。

提出的方法

• 提出一种异质性类型的分类体系，包括评估时间差异（延迟）、计算复杂度差异以及确定性差异（随机性与确定性）。
• 综述基于代理模型的进化算法（如 T-SAEA），通过利用快速目标训练的模型来加速慢速目标的评估。
• 应用调度与批量优化技术，以最小化空闲时间并提高多目标工作流中的资源利用率。
• 在合理假设下，对多目标问题中预期的延迟异质性进行实验分析。
• 借助迁移学习与降维技术，通过去除高度相关的昂贵目标，实现目标的同质化。
• 提出整合资源约束调度与排队论，以优化评估顺序并减少整体运行时间。

实验结果

研究问题

• RQ1 不同类型的异质性（如延迟、计算成本和随机性）如何影响多目标优化算法的性能？
• RQ2 当应用于评估时间差异显著的目标时，当前进化算法与基于代理模型的方法存在哪些局限性？
• RQ3 如何调整调度与批量处理技术，以优化异质目标的评估顺序？
• RQ4 降维与相关性分析在简化异质多目标问题中发挥何种作用？
• RQ5 需要何种新型基准测试框架，以评估在可配置异质性条件下的算法表现？

主要发现

• 异质目标——尤其是具有显著延迟差异的目标——在现实应用中极为常见，例如闭环优化和基于仿真的设计。
• 现有研究主要聚焦于延迟异质性，基于代理模型的方法在减少慢速目标评估时间方面展现出良好前景。
• 结合代理建模与调度技术，可显著提升具有慢速与快速目标的多目标问题的优化效率。
• 通过目标空间分析进行降维，可去除冗余或高度相关的昂贵目标，从而简化问题，但可能在最优区域附近导致精度损失。
• 当前的基准测试工具与性能度量方法在评估异质性问题时均显不足，亟需扩展或重新设计。
• 迫切需要可配置的测试问题，以模拟多种异质性类型，从而实现公平且有意义的算法比较。