[论文解读] Large Language Model Agent for Hyper-Parameter Optimization

Siyi Liu, Chen Gao+1 more|arXiv (Cornell University)|Feb 2, 2024

Business Process Modeling and AnalysisBusiness, Management and Accounting被引用 3

一句话总结

本文提出 AgentHPO，一种基于大语言模型（LLM）的新型智能体框架，通过使用专门的 Creator 和 Executor 智能体，实现自然语言任务描述的解析、超参数的迭代优化，并显著减少试用次数，从而实现自动化超参数优化。该方法在 12 种多样化的机器学习任务上达到最先进性能，同时提供可解释性高、类人般的优化过程，且对专家干预需求极低。

ABSTRACT

Hyperparameter optimization is critical in modern machine learning, requiring expert knowledge, numerous trials, and high computational and human resources. Despite the advancements in Automated Machine Learning (AutoML), challenges in terms of trial efficiency, setup complexity, and interoperability still persist. To address these issues, we introduce a novel paradigm leveraging Large Language Models (LLMs) to automate hyperparameter optimization across diverse machine learning tasks, which is named AgentHPO (short for LLM Agent-based Hyperparameter Optimization). Specifically, AgentHPO processes the task information autonomously, conducts experiments with specific hyperparameters (HPs), and iteratively optimizes them based on historical trials. This human-like optimization process largely reduces the number of required trials, simplifies the setup process, and enhances interpretability and user trust, compared to traditional AutoML methods. Extensive empirical experiments conducted on 12 representative machine-learning tasks indicate that AgentHPO not only matches but also often surpasses the best human trials in terms of performance while simultaneously providing explainable results. Further analysis sheds light on the strategies employed by the LLM in optimizing these tasks, highlighting its effectiveness and adaptability in various scenarios.

研究动机与目标

• 解决传统 AutoML 在试用效率、设置复杂度以及超参数优化缺乏可解释性方面的局限性。
• 探索利用基于大语言模型的自主智能体实现端到端超参数调优的可行性与有效性。
• 设计一种模块化智能体架构，简化用户输入，提升超参数配置的透明度。
• 在保持或提升优化性能的同时，降低对专家知识的依赖。
• 提供可解释的、分步推理的超参数选择过程，以增强用户信任与可访问性。

提出的方法

• AgentHPO 采用两种专用的大语言模型智能体：Creator 智能体负责解析自然语言任务描述，并生成初始超参数配置。
• Executor 智能体使用提供的超参数训练模型，记录训练指标，并执行结果分析。
• Creator 智能体基于 Executor 提供的反馈和性能数据，迭代优化超参数，模拟专家推理过程。
• 该框架通过自然语言输入定义特定任务的目标、数据集和模型结构，避免了复杂的配置步骤。
• 系统利用大语言模型的推理与工具使用能力，高效且自适应地探索超参数空间。
• Creator 与 Executor 之间的迭代循环实现了无需人工干预的自我优化过程。

Figure 1: Comparative Frameworks in Hyperparameter Optimization: Human Expertise, Traditional AutoML, and LLM-Based Agents

实验结果

研究问题

• RQ1 基于大语言模型的智能体能否在多样化机器学习任务中自主且高效地完成超参数优化？
• RQ2 与传统 AutoML 及人工专家调优相比，该智能体方法在试用效率和性能方面表现如何？
• RQ3 大语言模型智能体在无需专家干预的情况下，能在多大程度上提供可解释且可信的超参数配置？
• RQ4 自然语言输入在简化设置流程、提升非专家用户可访问性方面发挥何种作用？
• RQ5 专门的 Creator 和 Executor 智能体如何协作以减少所需试用次数，同时保持或提升模型性能？

主要发现

• AgentHPO 在 12 项代表性机器学习任务上的表现与最佳人工调优配置相当或更优。
• 与传统 AutoML 方法相比，该框架显著减少了所需的试用次数，提升了效率。
• 用户因大语言模型对超参数选择和优化逻辑的文字解释而表现出更高的信任度与可解释性。
• 自然语言输入界面简化了设置流程，减少了配置错误，降低了非专家用户的技术门槛。
• Creator 与 Executor 智能体展现出高效的协作能力，Creator 能够基于 Executor 提供的历史训练结果动态调整超参数。
• 实证结果表明，AgentHPO 在包括自然语言处理、计算机视觉和表格数据任务在内的多样化领域中均表现出良好的泛化能力。

Figure 2: Overview of our AgentHPO. The AgentHPO processes textual background information, autonomously conducts experiments with specific HPs, and iteratively optimizes them. This human-like optimization process enables AgentHPO to achieve high performance with minimal trials and provides users wit