[论文解读] When control meets large language models: From words to dynamics

Komeil Nosrati, Aleksei Tepljakov+2 more|arXiv (Cornell University)|Feb 3, 2026

Topic Modeling被引用 0

一句话总结

这篇论文将大型语言模型（LLMs）与控制理论之间的双向联系框定为三种范式，并在动力系统视角下勾勒出可解释与可控的LLMs的研究议程。

ABSTRACT

While large language models (LLMs) are transforming engineering and technology through enhanced control capabilities and decision support, they are simultaneously evolving into complex dynamical systems whose behavior must be regulated. This duality highlights a reciprocal connection in which prompts support control system design while control theory helps shape prompts to achieve specific goals efficiently. In this study, we frame this emerging interconnection of LLM and control as a bidirectional continuum, from prompt design to system dynamics. First, we investigate how LLMs can advance the field of control in two distinct capacities: directly, by assisting in the design and synthesis of controllers, and indirectly, by augmenting research workflows. Second, we examine how control concepts help LLMs steer their trajectories away from undesired meanings, improving reachability and alignment via input optimization, parameter editing, and activation-level interventions. Third, we look into deeper integrations by treating LLMs as dynamic systems within a state-space framework, where their internal representations are closely linked to external control loops. Finally, we identify key challenges and outline future research directions to understand LLM behavior and develop interpretable and controllable LLMs that are as trustworthy and robust as their electromechanical counterparts, thereby ensuring they continue to support and safeguard society.

研究动机与目标

• 追溯AI–控制协同从控制论到现代LLMs的历史演变。
• 将LLMs与控制之间的互动归类为三种范式：间接支持、直接设计指导、以及内部动力分析。
• 分析控制概念如何引导LLMs走向更可靠、对齐的输出。
• 提出使用结构化状态空间模型（SSMs）来研究LLMs的内部动力学与可控性。
• 勾勒向可信、鲁棒可控LLMs迈进的挑战与未来研究方向。

提出的方法

• 在提示、控制与系统动力学之间框定一个双向连续体。
• 将LLM–控制的互动分为三种范式：（a）LLMs增强控制研究并直接协助设计，（b）控制概念通过输入优化、编辑与干预来塑造LLM输出，（c）将LLMs视为动力系统，利用SSMs进行分析。
• 讨论从控制论与强化学习到RLHF再到现代LLM应用的历史演变。
• 提出一个基于等级的框架（L0–L2）用于LLM增强的控制工作流，并提供示例清单。
• 描述基于LLM的控制设计工具，包括反馈整定、零-shot与少数-shot提示、Chain-of-Thought提示，以及代理架构。
• 强调LLMs在离线与在线控制器整定以及控制流水线中的优化方面的潜力。

Figure 1: Capabilities of LLMS.

实验结果

研究问题

• RQ1 为什么LLMs与控制的交叉点重要？
• RQ2 LLMs与控制之间的联系何时出现、又是如何演变的？
• RQ3 控制概念在哪些方面支持LLMs、LLMs又在哪些方面支持控制？
• RQ4 在LLM–控制交叉点的挑战与未来趋势有哪些？

主要发现

• 我们识别出LLMs与控制系统之间的三大互动范式：间接工作流程增强、直接控制设计协助、以及基于状态空间概念的内部动力分析。
• LLMs可以通过自动化数据处理、文献综合和实验设计来协助控制研究与工作流任务，能力分为三个层级（L0–L2）。
• LLMs可以直接参与控制设计，包括反馈整定、优化、符号推理、设计空间探索和数据驱动建模，利用零-shot、少数-shot与Chain-of-Thought提示。
• 控制概念能够通过输入优化、模型编辑和激活层干预来塑造LLM行为，从而提高可靠性与对齐性。
• 可以将LLMs建模为动态系统（状态空间）以研究可控性、可观测性与稳定性，将内部表征与外部控制环路联系起来。
• 从历史看，AI–控制协同可追溯到控制论与强化学习，再到具备RLHF的现代LLMs、强化学习与基于Transformer的架构，近期工作将状态空间思想（如Mamba）与智能体框架（如ControlAgent、SmartControl）整合在一起。

Figure 2: Conceptual map of three key intersections between control and LLMs.