[论文解读] LibOPT: An Open-Source Platform for Fast Prototyping Soft Optimization Techniques

João Paulo Papa, Gustavo Henrique de Rosa+2 more|arXiv (Cornell University)|Apr 18, 2017

Neural Networks and Reservoir Computing参考文献 6被引用 17

一句话总结

LibOPT 是一个开源、自包含的 C 语言库，用于快速原型化受自然启发的元启发式优化技术，实现了 15 种算法和 112 个基准函数，并首次原生支持基于四元数和八元数的超复数优化。通过模块化、基于 C 的设计，该库可轻松集成和扩展，适用于应用开发和新算法研究。

ABSTRACT

Optimization techniques play an important role in several scientific and real-world applications, thus becoming of great interest for the community. As a consequence, a number of open-source libraries are available in the literature, which ends up fostering the research and development of new techniques and applications. In this work, we present a new library for the implementation and fast prototyping of nature-inspired techniques called LibOPT. Currently, the library implements 15 techniques and 112 benchmarking functions, as well as it also supports 11 hypercomplex-based optimization approaches, which makes it one of the first of its kind. We showed how one can easily use and also implement new techniques in LibOPT under the C paradigm. Examples are provided with samples of source-code using benchmarking functions.

研究动机与目标

• 提供一个自包含、轻量级的 C 语言库，用于快速原型化受自然启发的优化技术。
• 支持广泛的元启发式算法，包括使用四元数和八元数的新型超复数方法。
• 通过一致、模块化的 C API 简化新优化算法的实现与集成。
• 在特征选择、深度学习和模式识别等多样化应用中实现高效使用。
• 在未来工作中扩展支持多目标、约束和离散优化。

提出的方法

• 该库使用 C 语言实现，采用模块化架构，所有优化技术均通过统一的代理和搜索空间抽象进行管理。
• 每种元启发式算法通过唯一标识符（如 _PSO_、_BSO_）封装，并通过核心函数中的 switch-case 模式进行管理。
• 通过扩展代理结构以包含问题特定变量（如速度或强度），并更新内存管理函数，可添加新算法。
• 通过标准化接口支持基准测试，允许用户插入任意目标函数用于最小化。
• 通过扩展数据类型和内存分配例程，支持超复数优化，可处理四元数和八元数等多维数系统。
• 该库使用基于 Makefile 的构建系统，并提供清晰的代码模板，使添加新技术时的样板代码最少。

实验结果

研究问题

• RQ1 一个自包含、可扩展的 C 语言库在多大程度上能简化元启发式优化技术的原型设计？
• RQ2 哪些架构模式能够实现多种元启发式算法（包括基于超复数的算法）在单一库中的高效集成？
• RQ3 LibOPT 在多大程度上支持新型优化范式，如基于四元数和八元数的搜索空间？
• RQ4 LibOPT 如何促进在特征选择和深度学习等实际领域中的快速应用开发？
• RQ5 在不依赖外部依赖项的前提下，维护一个轻量级、可扩展的优化库所面临的实际挑战是什么？

主要发现

• LibOPT 成功实现了 15 种元启发式技术，包括 PSO、萤火虫算法、布谷鸟搜索等，且具有统一的 API 设计。
• 该库支持 112 个基准函数，支持优化性能的标准化测试与比较。
• LibOPT 是首个已知原生支持基于四元数和八元数的超复数优化的库，且可扩展支持任意超复数维度。
• 通过将算法逻辑与问题特定函数解耦，该库实现了快速原型设计，用户可仅用极少代码插入任意目标函数。
• LibOPT 已成功应用于多个研究领域，包括特征选择、深度学习微调和模式识别，证明了其实际应用价值。
• 模块化设计使得扩展极为简便：添加新算法仅需修改五个核心函数，并新增两个源文件。