[논문 리뷰] When control meets large language models: From words to dynamics

Komeil Nosrati, Aleksei Tepljakov외 2명|arXiv (Cornell University)|2026. 02. 03.

Topic Modeling인용 수 0

한 줄 요약

이 논문은 대형 언어 모델(LLMs)과 제어 이론 간의 양방향 연결 고리를 제시하고, 상호 작용을 세 가지 패러다임으로 분류하며, 다이나믹스-시스템 관점에서 해석 가능하고 제어 가능한 LLMs를 위한 연구 의제를 개략적으로 제시한다.

ABSTRACT

While large language models (LLMs) are transforming engineering and technology through enhanced control capabilities and decision support, they are simultaneously evolving into complex dynamical systems whose behavior must be regulated. This duality highlights a reciprocal connection in which prompts support control system design while control theory helps shape prompts to achieve specific goals efficiently. In this study, we frame this emerging interconnection of LLM and control as a bidirectional continuum, from prompt design to system dynamics. First, we investigate how LLMs can advance the field of control in two distinct capacities: directly, by assisting in the design and synthesis of controllers, and indirectly, by augmenting research workflows. Second, we examine how control concepts help LLMs steer their trajectories away from undesired meanings, improving reachability and alignment via input optimization, parameter editing, and activation-level interventions. Third, we look into deeper integrations by treating LLMs as dynamic systems within a state-space framework, where their internal representations are closely linked to external control loops. Finally, we identify key challenges and outline future research directions to understand LLM behavior and develop interpretable and controllable LLMs that are as trustworthy and robust as their electromechanical counterparts, thereby ensuring they continue to support and safeguard society.

연구 동기 및 목표

• 사이버네틱스에서 현대 LLMs까지 AI–제어 시너지의 역사적 진화를 추적한다.
• LLMs와 제어 간 상호 작용을 간접 지원, 직접 설계 가이드, 내부 동적 분석의 세 가지 패러다임으로 분류한다.
• 제어 개념이 LLMs를 신뢰할 수 있고 정렬된 출력으로 이끌 수 있는지 분석한다.
• LLM 내부 동역학 및 제어 가능성을 연구하기 위한 구조화된 상태-공간 모델(SSMs)의 사용을 제안한다.
• 신뢰할 수 있고 강건하며 제어 가능한 LLMs를 향한 도전과제와 미래 연구 방향을 개요한다.

제안 방법

• 프롬프트, 제어, 시스템 다이나믹스 간의 양방향 연속체를 구성한다.
• (a) LLMs가 제어 연구를 보강하고 설계를 직접 지원, (b) 제어 개념이 입력 최적화, 편집, 개입을 통해 LLM 출력에 영향을 미치며, (c) LLMs를 동적 시스템으로 간주하고 SSM으로 분석.
• 사이버네틱스와 강화 학습에서 RLHF 및 현대 LLM 응용으로의 역사적 진화를 논의한다.
• LLM-보강 제어 워크플로우를 위한 레벨 기반 프레임워크(L0–L2)를 제안하고 예시 목록을 제공한다.
• 피드백 튜닝, 제로샷 및 파샷 프롬프트, CoT 프롬프팅, 에이전트형 아키텍처를 포함한 제어 설계를 위한 LLM 기반 도구를 설명한다.
• 오프라인 및 온라인에서 컨트롤러 튜닝을 돕고 제어 파이프라인 내 최적화에 기여할 LLMs의 가능성을 강조한다.

Figure 1: Capabilities of LLMS.

실험 결과

연구 질문

• RQ1 왜 LLMs와 제어의 교차가 중요한가?
• RQ2 LLMs와 제어 간의 연결은 언제 등장했고 어떻게 진화해 왔는가?
• RQ3 제어 개념이 LLMs를 어떻게 지원하는가, 그리고 LLMs가 제어를 어떻게 지원하는가?
• RQ4 LLM–제어 교차점에서의 도전 과제와 향후 경향은 무엇인가?

주요 결과

• LLMs와 제어 시스템 간의 세 가지 주요 상호 작용 패러다임을 식별한다: 간접 워크플로우 보강, 직접 제어 설계 지원, 그리고 상태공간 개념을 활용한 내부 다이내믹 분석.
• LLMs는 데이터 처리 자동화, 문헌 종합, 실험 설계 등의 워크플로우 작업과 제어 연구를 지원할 수 있으며, 세 가지 능력 수준(L0–L2)으로 구성되어 있다.
• LLMs는 피드백 튜닝, 최적화, 기호적 추론, 설계 공간 탐색 및 데이터 기반 모델링 등 제어 설계에 직접 참여할 수 있으며, 제로샷, 파샷, Chain-of-Thought 프롬프팅을 사용한다.
• 제어 개념은 입력 최적화, 모델 편집, 활성화 수준 개입을 통해 LLM의 동작을 형성하여 신뢰성과 정렬성을 향상시킬 수 있다.
• LLMs는 동적 시스템(상태-공간)으로 모델링되어 제어 가능성, 관측 가능성, 안정성을 연구하고, 내부 표현을 외부 제어 루프와 연결한다.
• 역사적으로 AI–제어 시너지는 사이버네틱스와 RL에서 현대 RLHF-enabled LLMs, RL, 및 Transformer 기반 아키텍처로 이어지며, 최근 작업은 상태-공간 아이디어(예: Mamba) 및 에이전트적 프레임워크(예: ControlAgent, SmartControl)를 통합한다.

Figure 2: Conceptual map of three key intersections between control and LLMs.