[논문 리뷰] Knowledge Card: Filling LLMs' Knowledge Gaps with Plug-in Specialized Language Models

Shangbin Feng, Weijia Shi외 4명|arXiv (Cornell University)|2023. 05. 17.

Topic Modeling인용 수 4

한 줄 요약

지식 카드는 블랙박스 대규모 언어 모델(LM)에 동적이고 도메인 특화된 지식을 플러그인 방식의 전문화된 언어 모델인 '지식 카드'를 통해 통합할 수 있는 모듈러 프레임워크를 제안한다. 관련성, 간결성, 사실성 세 가지 콘텐츠 선택기와 하향식 및 상향식 두 가지 통합 전략을 활용함으로써 최신 성능을 달성하며, MMLU에서 Codex보다 6.6% 향상되고 Flan-PaLM와 같은 더 큰 모델을 능가한다.

ABSTRACT

By design, large language models (LLMs) are static general-purpose models, expensive to retrain or update frequently. As they are increasingly adopted for knowledge-intensive tasks, it becomes evident that these design choices lead to failures to generate factual, relevant, and up-to-date knowledge. To this end, we propose Knowledge Card, a modular framework to plug in new factual and relevant knowledge into general-purpose LLMs. We first introduce knowledge cards -- specialized language models trained on corpora from specific domains and sources. Knowledge cards serve as parametric repositories that are selected at inference time to generate background knowledge for the base LLM. We then propose three content selectors to dynamically select and retain information in documents generated by knowledge cards, specifically controlling for relevance, brevity, and factuality of outputs. Finally, we propose two complementary integration approaches to augment the base LLM with the (relevant, factual) knowledge curated from the specialized LMs. Through extensive experiments, we demonstrate that Knowledge Card achieves state-of-the-art performance on six benchmark datasets. Ultimately, Knowledge Card framework enables dynamic synthesis and updates of knowledge from diverse domains. Its modularity will ensure that relevant knowledge can be continuously updated through the collective efforts of the research community.

연구 동기 및 목표

• 일반적인 LLM의 정적이고 종합적인 특성으로 인해 사실적이고 최신의, 도메인 특화된 지식을 생성하는 데 한계가 존재하는 문제를 해결하기 위해.
• 기본 LLM을 재학습하지 않고도 다양한 전문화된 소스로부터 모듈러하고 협업적인 지식 통합을 가능하게 하기 위해.
• 도메인 전문가 및 연구자들이 기여하는 커뮤니티 기반의 지식 업데이트를 통해 지속적인 지식 업데이트를 지원하기 위해.
• LLM의 정적 성격을 극복하고 지식 집약적 작업에서의 환각 현상을 줄이기 위해.

제안 방법

• 지식 카드는 도메인 특화된 코퍼스에 맞춰 피나이팅된 전문화된 언어 모델로, 매개변수화된 모듈러 지식 저장소로 기능한다.
• 세 가지 콘텐츠 선택기인 관련성, 정리(간결성), 사실성 선택기를 적용하여 지식 카드에서 생성된 지식 출력을 걸러내고 정제한다.
• 하향식 접근 방식은 모든 지식 카드가 문서를 생성하게 하고, 이를 쿼리와 함께 필터링 및 연결한 후 LLM 추론을 수행한다.
• 상향식 접근 방식은 기본 LLM이 외부 지식이 필요한지 판단한 후, 쿼리 컨텍스트에 기반해 관련성이 높은 지식 카드를 동적으로 선택하고 활성화한다.
• 자동 선택(LLM 추론을 통한) 또는 사용자가 명시적으로 지정한 소스 선택 방식을 모두 지원하는 두 가지 통합 모드를 제공한다.
• 플러그 앤 플레이 업데이트를 지원하며, 도메인 전문가 및 연구자들이 협업적으로 지식 기여를 할 수 있도록 한다.

Figure 1: Overview of Knowledge Card . We train knowledge cards on various knowledge domains and employ three knowledge selectors for quality control. We propose bottom-up and top-down to integrate general-purpose LLMs with modular and specialized LMs to enable multi-domain knowledge synthesis ( bot

실험 결과

연구 질문

• RQ1 재학습 없이도 전문화된 도메인 특화 언어 모델이 일반 목적 LLM의 사실적 지식 격차를 효과적으로 메울 수 있는가?
• RQ2 추론 과정에서 외부 지식의 관련성, 간결성, 사실성은 어떻게 동적으로 제어할 수 있는가?
• RQ3 모듈러 지식 주입 방식이 지식 집약적 작업에서 검색 보강 및 생성된 프롬프팅 기반 베이스라인을 능가할 수 있는가?
• RQ4 이 프레임워크는 LLM 지식에 대한 지속적이고 커뮤니티 기반의 업데이트를 어떻게 지원하는가?
• RQ5 동적이고 선택적인 지식 검색이 환각 현상과 사실 일관성에 어떤 영향을 미치는가?

주요 결과

• 지식 카드는 기본 Codex 모델 대비 MMLU 벤치마크에서 성능을 6.6% 향상시켰으며, Flan-PaLM와 같은 더 큰 모델을 능가한다.
• 오해 정보 분류 과제에서 지식 카드는 양방향 분류 시 기준보다 최소 15.8% 높은 균형 정확도를 기록했고, 사방 분류에서는 10.0% 향상되었다.
• 자동 선택 방식을 사용한 상향식 접근 방식은 지식 소스 선택의 정밀도가 매우 높았으며, 57개의 MMLU 하위 과제에서 YAGO와 위키백과가 가장 자주 선택된 지식 카드였다.
• 지식 카드 간 사실성 점수에 차이가 있었으며, 분포를 통해 일부 도메인(예: 생물의학)에서는 다른 도메인보다 더 신뢰할 수 있는 출력을 제공하는 것으로 나타났다.
• 하향식 접근 방식은 다중 도메인 지식 통합을 가능하게 하지만, 외부 지식이 불필요한 경우 관련 없는 정보를 주입할 위험이 있다.
• 광범위한 아블레이션 분석 결과, 세 가지 콘텐츠 선택기(관련성, 정리, 사실성) 모두 출력 품질 향상에 기여했으며, 특히 사실성이 가장 큰 영향을 미쳤다.

Figure 2: Performance on misinformation detection when each knowledge card is separately added. Knowledge Card enables modular patching of LLMs while in-domain knowledge cards help the most.