[논문 리뷰] MedCoG: Maximizing LLM Inference Density in Medical Reasoning via Meta-Cognitive Regulation

Yu Zhao, Hao Guan외 3명|arXiv (Cornell University)|2026. 02. 08.

Artificial Intelligence in Healthcare and Education인용 수 0

한 줄 요약

MedCoG는 의료 질문에 대해 추론 전략(SCoT, 기억, KG)을 적응적으로 선택하는 메타 인지 조절기를 도입하여 더 높은 추론 밀도와 효율을 달성합니다. 추론 밀도(Inference Density)와 추론 증가 효율성(Inference Incremental Efficiency, IIE)을 정의하여 이득을 정량화합니다.

ABSTRACT

Large Language Models (LLMs) have shown strong potential in complex medical reasoning yet face diminishing gains under inference scaling laws. While existing studies augment LLMs with various knowledge types, it remains unclear how effectively the additional costs translate into accuracy. In this paper, we explore how meta-cognition of LLMs, i.e., their self-awareness of their own knowledge states, can regulate the reasoning process. Specifically, we propose MedCoG, a Medical Meta-Cognition Agent with Knowledge Graph, where the meta-cognitive assessments of task complexity, familiarity, and knowledge density dynamically regulate utilization of procedural, episodic, and factual knowledge. The LLM-centric on-demand reasoning aims to mitigate scaling laws by (1) reducing costs via avoiding indiscriminate scaling, (2) improving accuracy via filtering out distractive knowledge. To validate this, we empirically characterize the scaling curve and introduce inference density to quantify inference efficiency, defined as the ratio of theoretically effective cost to actual cost. Experiments demonstrate the effectiveness and efficiency of MedCoG on five hard sets of medical benchmarks, yielding 5.5x inference density. Furthermore, the Oracle study highlights the significant potential of meta-cognitive regulation.

연구 동기 및 목표

• 의료 추론에서 LLM의 무차별적 확장이 수익 감소를 낳는 이유를 제시한다.
• 자기 평가를 통해 복잡도, 친숙도, 지식 밀도를 파악하고 이를 바탕으로 추론 전략을 선택하는 메타 인지 규제기를 제안한다.
• 절차적, 에피소딕, 사실적 지식을 분리하여 정확도와 효율성을 향상시킨다.
• 잡음 감소와 사실적 기반 강화를 위해 표적 검증이 가능한 지식 그래프(KG) 접속을 도입한다.
• 추론 효율성을 Inference Density와 Inference Incremental Efficiency(IIE)로 정량화한다.

제안 방법

• MedCoG를 메디컬 메타 인지 에이전트로 제시: 메타 인지 조절기와 실행기로 구성된 지식 그래프를 포함한다.
• 조절기는 세 가지 메타 인지 차원(복잡도, 친숙도, 지식 밀도)을 모니터링하고 임계값 기반 정책 π(s)를 통해 Zero-Shot, SCoT, SCoT+Mem, SCoT+KG, SCoT+KG+Mem으로 매핑하여 전략을 계획한다.
• 사실 지식의 경우 잡음 회피를 위한 KG 검증 대상과 제약된 KG 탐색 공간을 사용한다.
• 절차 지식은 SCoT로 처리하고, 에피소드 지식은 메모리 사례 은행에서 회수하며, 사실 지식은 엔터티 접지 및 경로 검색을 포함한 의료 KG(PrimeKG)로 접지가 이루어진다.
• 평가에서는 효율성과 비용 효율성을 측정하기 위한 추론 밀도(ρ)와 추론 증가 효율성(IIE)을 도입한다.
• 다섯 가지 난이도 의료 벤치마크에서 MedCoG-Meta가 더 높은 추론 밀도와 IIE를 달성하는 것으로 검증되었다.

실험 결과

연구 질문

• RQ1 메타 인지 규제가 의료 추론에서 정확도와 추론 비용 간의 트레이드오프를 개선할 수 있는가?
• RQ2 복잡도, 친숙도, 지식 밀도가 전략 선택 및 성능에 어떠한 영향을 미치는가?
• RQ3 절차적, 에피소딕, 사실 지식의 표적적 통합이 무차별적 증강보다 뛰어난가?
• RQ4 메타 인지 규제의 상한선(오라클 연구)과 필요시 규제를 적용하는 실용적 이득은 무엇인가?
• RQ5 새로운 지표들(Inference Density, IIE)이 추론 효율성의 개선을 어떻게 반영하는가?

주요 결과

• MedCoG-Meta가 Pareto 경계 기준선 대비 5.5배의 추론 밀도를 달성한다.
• MedCoG 내 오라클식 전략 선택이 거의 최적의 성능에 근접하여 강력한 상한선 가능성을 시사한다.
• 메모리+KG 시너지가 어려운 케이스의 성능을 향상시키는 반면, 무차별적 KG 또는 기억만으로는 성능이 저하될 수 있다.
• MedCoG-Meta가 난이도 높은 의료 벤치마크에서 가장 높은 추론 증가 효율성을 보인다.
• 메타 인지 분포는 백본 모델과 데이터세트에 따라 다르며 도메인 적응 규제가 이점을 제공함을 보여준다.