[논문 리뷰] Textual Equilibrium Propagation for Deep Compound AI Systems

Min Chen, Wenlong Deng외 3명|arXiv (Cornell University)|2026. 01. 28.

Topic Modeling인용 수 0

한 줄 요약

TEP는 지역적 평형 기반 학습 프레임워크를 도입하여 심층 합성 AI 시스템의 텍스트 기울기 급상승/소멸 문제를 완화하고, TextGrad와 같은 전역 역전파 방법보다 특히 워크플로 깊이가 커질수록 더 우수하게 작동합니다.

ABSTRACT

Large language models (LLMs) are increasingly deployed as part of compound AI systems that coordinate multiple modules (e.g., retrievers, tools, verifiers) over long-horizon workflows. Recent approaches that propagate textual feedback globally (e.g., TextGrad) make it feasible to optimize such pipelines, but we find that performance degrades as system depth grows. In particular, long-horizon agentic workflows exhibit two depth-scaling failure modes: 1) exploding textual gradient, where textual feedback grows exponentially with depth, leading to prohibitively long message and amplifies evaluation biases; and 2) vanishing textual gradient, where limited long-context ability causes models overemphasize partial feedback and compression of lengthy feedback causes downstream messages to lose specificity gradually as they propagate many hops upstream. To mitigate these issues, we introduce Textual Equilibrium Propagation (TEP), a local learning principle inspired by Equilibrium Propagation in energy-based models. TEP includes two phases: 1) a free phase where a local LLM critics iteratively refine prompts until reaching equilibrium (no further improvements are suggested); and 2) a nudged phase which applies proximal prompt edits with bounded modification intensity, using task-level objectives that propagate via forward signaling rather than backward feedback chains. This design supports local prompt optimization followed by controlled adaptation toward global goals without the computational burden and signal degradation of global textual backpropagation. Across long-horizon QA benchmarks and multi-agent tool-use dataset, TEP consistently improves accuracy and efficiency over global propagation methods such as TextGrad. The gains grows with depth, while preserving the practicality of black-box LLM components in deep compound AI system.

연구 동기 및 목표

• 깊이와 관련된 전역 텍스트 역전파 실패를 심층 합성 AI 워크플로에서 식별한다.
• 지역 평형을 위한 자유 단계와 한정된 프롬프트 편집을 포함하는 누드(nudged) 단계가 있는 Textual Equilibrium Propagation(TEP)을 제안한다.
• TEP가 다단계 QA 및 도구 사용 벤치마크 전반에서 깊이에 따라 더 잘 확장되는지 보여준다.
• TEP가 정확도와 효율성 면에서 TextGrad 및 관련 기초 방법들보다 우수하다는 점을 보인다.

제안 방법

• 합성 AI 시스템을 노드-로컬 매개변수를 갖는 확률적 연산 그래프로 모델링합니다.
• 깊이에 의존하는 실패 모드로서 폭발적 및 소멸적 텍스트 기울기를 형식화합니다.
• 자유 단계로 지역 평형을 구현하고 경계 편집이 제한된 누드(nudged) 단계를 갖는 2단계 Textual Equilibrium Propagation 제안을 제시합니다.
• 노드-로컬 크리틱과 근사 업데이트를 사용해 한정되고 작업에 맞춘 개선을 보장합니다.
• 다수 벤치마크에서 TextGrad 및 기타 기초 방법과의 실험적 비교를 통해 검증합니다.
• 전역적 조정을 위한 두 단계의 필요성을 보이는 소거 연구를 제시합니다.

실험 결과

연구 질문

• RQ1 깊은 합성 AI 파이프라인에서 TEP가 전역적 텍스트 역전파 방법(예: TextGrad)보다 우수하게 작동할 수 있을까요?
• RQ2 깊이가 증가함에 따라 급상승/급감하는 텍스트 기울기가 실제로 어떻게 나타나며, TEP가 이를 완화할 수 있을까요?
• RQ3 TEP의 구성요소 중 어떤(자유 단계, 누드된 단계)이 성능 향상에 가장 기여합니까?
• RQ4 깊이 확장 하에서 다단계 QA 및 코드 생성과 같은 다양한 작업에서도 TEP가 견고합니까?

주요 결과

• TEP는 테스트된 네 개 벤치마크 모두에서 최상의 성능을 달성했으며, HotpotQA에서(8.1% 대 다음 최고)와 BigCodeBench에서(3.4%) 두드러진 개선이 나타났습니다.
• TEP는 다단계 QA 및 도구 사용 과제에서 TextGrad 및 TextGrad+요약을 지속적으로 능가합니다.
• 소거 연구에서 자유 단계나 누드된 단계를 각각 제거하면 성능이 저하되어 두 단계의 상보적 역할이 강조됩니다.
• TEP는 깊이에 따라 안정적으로 확장되며 메시지 길이의 기하급수적 증가나 특이성 상실을 방지합니다.
• 해결책 최적화 설정에서 TEP는 GPQA 정확도와 객체 개수 측정 정확도를 기준선보다 향상시킵니다.
• TextGrad는 요약과 함께 사용될 경우 추론 중심 작업에서 성능 저하를 초래할 수 있어 압축 기반 접근의 한계를 시사합니다.