[논문 리뷰] Explainable Innovation Engine: Dual-Tree Agent-RAG with Methods-as-Nodes and Verifiable Write-Back

Renwei Meng|arXiv (Cornell University)|2026. 03. 10.

Scientific Computing and Data Management인용 수 0

한 줄 요약

설명 가능한 혁신 엔진은 dual-tree 원천 및 추상화 구조를 가진 방법-노드(methods-as-nodes)와 전략 구동 합성 및 검증 가능한 쓰기-백(write-back)을 활용하여 RAG 기반 혁신을 제어 가능하고 감사 가능한 방식으로 만드는 것을 제안합니다.

ABSTRACT

Retrieval-augmented generation (RAG) improves factual grounding, yet most systems rely on flat chunk retrieval and provide limited control over multi-step synthesis. We propose an Explainable Innovation Engine that upgrades the knowledge unit from text chunks to methods-as-nodes. The engine maintains a weighted method provenance tree for traceable derivations and a hierarchical clustering abstraction tree for efficient top-down navigation. At inference time, a strategy agent selects explicit synthesis operators (e.g., induction, deduction, analogy), composes new method nodes, and records an auditable trajectory. A verifier-scorer layer then prunes low-quality candidates and writes validated nodes back to support continual growth. Expert evaluation across six domains and multiple backbones shows consistent gains over a vanilla baseline, with the largest improvements on derivation-heavy settings, and ablations confirm the complementary roles of provenance backtracking and pruning. These results suggest a practical path toward controllable, explainable, and verifiable innovation in agentic RAG systems. Code is available at the project GitHub repository https://github.com/xiaolu-666113/Dual-Tree-Agent-RAG.

연구 동기 및 목표

• Flat chunk 검색의 한계와 RAG 시스템에서의 다단계 제어 제한을 메서드-노드로 인덱싱 단위로 도입하여 해결한다.
• 설명 가능 탐색 및 감사용으로 듀얼 트리 지식 표현(메서드 원천 트리와 클러스터링 추상 트리)을 개발한다.
• 전략 연산자, 원천 인지 합성, 점수 기반 가지치기, 실행 가능 검증, 지속적 성장을 위한 쓰기-백이 있는 폐쇄 루프 추론 파이프라인을 설계한다.
• 다양한 도메인과 백본 모델에서 일반(Base)와의 비교를 통해 개선을 입증하고, 구성 요소의 기여를 검증하는 애플리케이션별 제거 실험을 수행한다.

제안 방법

• 두 가지 보완 구조를 도입한다: 재사용 가능한 메서드 단위 간 가중 derivation을 기록하는 Method Provenance Tree와 위계적 상향식 탐색을 가능하게 하는 Clustering Abstraction Tree를 도입한다.
• 오프라인 다중 모달 정규화와 컨텍스트 보존 세분화를 통해 사전 메서드 및 파생 메서드를 에지 특성 및 가중치와 함께 추출한다.
• 벡터 임베딩과 코사인 유사도를 사용하여 메서드를 중복 제거하고 표준화하며, 감사 가능한 원천 추적을 유지한다.
• 추상 트리에서의 온라인 퍼널 검색과 소멸하는 예산으로 잎 노드까지 내려가고, 조상 원천 추적(backtracking)을 통해 합성을 위한 컨텍스트를 형성한다.
• 전략 에이전트가 합성 연산자(예: 귀납, 연역, 비유) 라이브러리에서 선택하여 후보 메서드 노드를 생성하고, 설명, 참신성, 적용 가능성, 검증 계획을 제공합니다.
• 점수 매기기 및 검증 루프(인간 해석 가능한 루브릭과 형식 도메인에서의 실행 가능 검증)가 저품질 후보를 제거하고 검증된 노드를 저장소에 다시 기록한다.
• 안전 제약을 포함한 선택적 비지도 진화 및 원천 로깅을 옵션으로 제공한다.

Figure 1: The complete algorithm process

실험 결과

연구 질문

• RQ1 방법-노드를 이중 트리 구조로 인덱싱하는 것이 RAG 기반 혁신 작업에서 설명 가능성과 제어 가능성에 어떤 영향을 미치는가?
• RQ2 전략 주도 합성 및 원천 추적(backtracking)이 다양한 도메인에서 더 높은 품질의 검증 가능한 도출 달성에 어떤 영향을 미치는가?
• RQ3 가지치기와 실행 가능한 검증이 방법 저장소의 신뢰성과 지속적 성장에 어떤 영향을 미치는가?
• RQ4 다중 모달 입력에서 제안된 이중 트리 Agent-RAG의 효율성 및 확장성 특성은 무엇인가?

주요 결과

• Agent-RAG는 여섯 개 도메인과 다수의 백본에서 일반적인 베이스라인보다 일관되게 개선을 보인다.
• 가장 큰 이득은 귀납적 도메인(예: Mathematics)에서 나타난다.
• 애블레이션 실험은 원천 추적(backtracking)과 가지치기가 성능에 보완적 역할을 한다는 것을 보여준다.
• 적시성 실험은moderate 예산 하에서 품질에 거의 최적에 가까운 비용-품질 트레이드오프를 보여준다.
• 백본 LLM의 품질이 절대 성능을 크게 좌우하며, Agent-RAG는 모든 테스트 백본에서 도메인 평균 점수를 향상시킨다.

Figure 2: A schematic diagram of Clustering Abstraction Tree and Method Provenance Tree