[논문 리뷰] Semantics-Aware Caching for Concept Learning

Louis Mozart Kamdem Teyou, Caglar Demir외 1명|arXiv (Cornell University)|2026. 03. 06.

Advanced Graph Neural Networks인용 수 0

한 줄 요약

의미 인지 캐싱 계층은 설명 로직 추론기에서 개념 검색을 가속화하여 상징적 및 신-상징적 설정 전반의 개념 학습 파이프라인을 극적으로 빠르게 만듭니다.

ABSTRACT

Concept learning is a form of supervised machine learning that operates on knowledge bases in description logics. State-of-the-art concept learners often rely on an iterative search through a countably infinite concept space. In each iteration, they retrieve instances of candidate solutions to select the best concept for the next iteration. While simple learning problems might require a few dozen instance retrieval calls to find a fitting solution, complex learning problems might necessitate thousands of calls. We alleviate the resulting runtime challenge by presenting a semantics-aware caching approach. Our cache is essentially a subsumption-aware map that links concepts to a set of instances via crisp set operations. Our experiments on 5 datasets with 4 symbolic reasoners, a neuro-symbolic reasoner, and 5 popular pagination policies demonstrate that our cache can reduce the runtime of concept retrieval and concept learning by an order of magnitude while being effective for both symbolic and neuro-symbolic reasoners.

연구 동기 및 목표

• 개념 학습에서 런타임 병목 현상 식별(후보 개념에 대한 반복 추론).
• 포섭(subsumption)을 활용하여 이전에 계산된 인스턴스 집합을 재사용하는 의미 인지 캐시를 제안한다.
• 여러 데이터셋, 추론기 및 캐시 제거 정책에 걸친 캐시 영향 평가.
• 캐시 통합이 상당한 런타임 절감을 제공하고 신-상징적 추론으로 일반화되는 것을 입증한다.

제안 방법

• 선명한 집합 연산을 사용하여 개념을 인스턴스 집합에 매핑하는 포섭 인식 캐시를 도입한다.
• AL C semantics를 활용하여 식별된 포섭 관계를 통해 후보 검색을 경량 구문 휴리스틱으로 가지치기한다.
• 일반 프리퀀티브에 대해 Ret(A), Ret(¬A), 및 Ret(∃r.A)를 미리 계산하여 워밍업 시작을 가속한다.
• 의미 분해와 캐시된 결과를 활용하여 추론기 호출을 최소화하는 fetchInstances 절차를 구현한다.
• 다섯 가지 제거 정책(FIFO, LIFO, LRU, MRU, RP)을 평가하고 의미적 캐싱과 비의미적 캐싱을 비교한다.
• 네 개의 데이터셋에서 네 명의 상징적 추론기와 하나의 신-상징적 추론기(Ebr)로 테스트한다.

(a) Carcinogenesis

실험 결과

연구 질문

• RQ1 의미 인지 캐시가 서로 다른 추론기에서 개념 검색 시간을 줄이는가?
• RQ2 캐시 크기와 제거 정책이 개념 검색의 런타임 및 히트율에 어떤 영향을 미치는가?
• RQ3 캐시가 상징적 및 신-상징적 개념 학습 과제 모두에 효과적인가?
• RQ4 캐시 초기화가 작은 데이터셋과 큰 데이터셋에서 성능에 미치는 영향은 무엇인가?

주요 결과

• 캐시는 캐시 용량이 충분할 때 느린 추론기에 대해 최대 80%, 더 빠른 추론기에 대해서는 최대 20%까지 개념 검색 시간을 감소시킨다.
• 개념 학습에서 캐시는 전체 런타임을 최대 1000배 감소시킬 수 있다.
• LRU는 추론기와 데이터셋에 걸쳐 런타임 감소와 캐시 효율성 사이의 최적 균형을 일관되게 제공한다.
• 워밍(초기화된) 캐시는 초기 비용이 더 크더라도 캐시 용량이 커질수록 더 안정적이고 빠른 개선을 제공한다.
• 비의미적 캐싱은 거의 개선을 제공하지 않으며, 의미 구조 활용의 중요성을 강조한다.
• 대형 데이터셋에서도 더 빠른 추론기가 이익을 얻으며(예: Ebr: Carcinogenesis에서 약 700ks에서 약 100ks로), 올바른 제거로 메모리 사용은 관리 가능하다.

(b) Mutagenesis