[논문 리뷰] Learning with Memory Embeddings

Volker Tresp, Cristóbal Esteban외 3명|arXiv (Cornell University)|2015. 11. 25.

Advanced Graph Neural Networks참고 문헌 108인용 수 14

한 줄 요약

이 논문은 공유 잠재 표현을 사용하여 기술적 표현 학습 모델을 인간의 인지 기억 기능—의미 기억, 경험 기억, 감각 기억, 작업 기억—으로 매핑하는 텐서 기반 메모리 임bedding 프레임워크를 제안한다. '텐서 기억 가설'을 도입하여 실체의 잠재 벡터가 기억 유형 간 통합된 학습, 예측 및 추론을 가능하게 함을 입증하며, 임상 및 추천 모델링 응용 분야에서의 실증적 근거를 제시한다.

ABSTRACT

Embedding learning, a.k.a. representation learning, has been shown to be able to model large-scale semantic knowledge graphs. A key concept is a mapping of the knowledge graph to a tensor representation whose entries are predicted by models using latent representations of generalized entities. Latent variable models are well suited to deal with the high dimensionality and sparsity of typical knowledge graphs. In recent publications the embedding models were extended to also consider time evolutions, time patterns and subsymbolic representations. In this paper we map embedding models, which were developed purely as solutions to technical problems for modelling temporal knowledge graphs, to various cognitive memory functions, in particular to semantic and concept memory, episodic memory, sensory memory, short-term memory, and working memory. We discuss learning, query answering, the path from sensory input to semantic decoding, and the relationship between episodic memory and semantic memory. We introduce a number of hypotheses on human memory that can be derived from the developed mathematical models.

연구 동기 및 목표

• 기술적 표현 학습 모델을 인간의 인지 기억 체계, 특히 의미 기억, 경험 기억 및 작업 기억과 연결하고자 한다.
• 지식 그래프 임베딩에서의 잠재 벡터 표현이 인간 기억 유형 간의 功能적 및 구조적 관계를 어떻게 모델링할 수 있는지 조사하고자 한다.
• 텐서 분해를 활용하여 감각 기억, 경험 기억 및 의미 기억 간의 학습, 추론 및 예측을 지원하는 수학적 프레임워크를 개발하고자 한다.
• 의미 기억이 장기적인 경험 경험의 집합에서 유도되며, 경험 기억이 의미적 맥락에 의존한다는 가설을 검증하고자 한다.
• 기억 기능 간의 공유 잠재 표현이 작업 기억에서 예측, 의사결정 지원 및 정신적 시뮬레이션을 어떻게 가능하게 하는지 탐색하고자 한다.

제안 방법

• 감각 기억(U), 경험 기억(Z), 의미 지식 그래프(X)를 각각 다른 차원을 가진 텐서로 모델링하며, 공유 잠재 표현을 공유한다.
• 일반화된 실체(주어, 서술어, 목적어)의 공유 잠재 표현을 기억 유형 간에 학습하기 위해 결합된 텐서 분해를 적용한다.
• 잠재 벡터로 파arameterized된 지표 매핑 함수를 사용하여 확률적 추론을 통해 텐서 요소(예: 삼중항의 진리값)를 예측한다.
• 시뮬레이션된 난방 기반 샘플링을 활용하여 가능성이 높은 삼중항을 생성함으로써 기억 회상 및 과거 또는 미래 사건의 정신적 이미징을 가능하게 한다.
• ‘텐서 기억 가설’을 도입: 명시적인 지식 그래프가 아닌 실체의 잠재 표현만을 저장하면 되며, 이는 효율적인 추론과 일반화를 가능하게 한다.
• 모델 파라미터(예: 신경망 가중치)를 암묵적 기술 기억과 연결하며, 지각 학습은 감각-잠재 매핑의 정교화에 해당한다.

실험 결과

연구 질문

• RQ1 시간적 지식 그래프를 위한 기술적 임베딩 모델이 경험 기억 및 의미 기억과 같은 인간의 인지 기억 기능으로 의미 있게 매핑될 수 있는가?
• RQ2 기억 유형 간의 공유 잠재 표현이 작업 기억에서 통합된 학습, 예측 및 의사결정을 어떻게 지원하는가?
• RQ3 의미 기억이 경험 기억에 얼마나 의존하는가, 그 반대의 경우도 마찬가지로, 이 관계를 텐서 임베딩를 사용해 수학적으로 모델링할 수 있는가?
• RQ4 잠재 표현 조작을 통해 모델이 정신적 이미징과 미래 사건 예측을 시뮬레이션할 수 있는가?
• RQ5 시간 t의 잠재 표현이 경험 기억 형성에 어떤 역할을 하는가? 그리고 감각 입력이 고차원 인지에 어떻게 통합되는가?

주요 결과

• 의미 기억은 주어-서술어-목적어 삼중항의 정적 지식 그래프로 모델링되며, 경험 기억은 시간 색인을 가진 삼중항으로 표현되어 시간적 추론이 가능하다.
• 텐서 기억 가설은 타당하다: 실체의 잠재 표현만을 저장하면 되며, 이는 전체 지식 그래프 재구성과 인덕티브 추론을 가능하게 한다.
• 시간 t의 잠재 표현은 모든 감각 입력을 요약하며, 감각에서 기억으로 이르는 경험 기억 형성의 기초가 된다.
• 의미 기억과 경험 기억은 상호의존적이다: 경험 기억의 복호화에는 의미 맥락이 필요하며, 의미 기억은 경험 경험의 장기적 저장소로 발전한다.
• 잠재 표현의 확률적 샘플링을 통해 과거 기억 회상 및 미래 사건의 정신적 시뮬레이션을 모두 지원한다.
• 임상 의사결정 모델링, 센서 네트워크 및 추천 시스템에서의 실증적 검증을 통해 프레임워크의 효과성이 확인되었으며, 절차, 검사 결과 및 사용자 선호도 예측에 성공하였다.