[논문 리뷰] Demystifying Embedding Spaces using Large Language Models

Guy Tennenholtz, Yinlam Chow외 7명|arXiv (Cornell University)|2023. 10. 06.

Topic Modeling인용 수 5

한 줄 요약

이 논문은 훈련 가능한 어댑터 레이어를 통해 도메인 임베딩을 대규모 언어 모델(Large Language Models, LLMs)과 통합하는 프레임워크를 소개한다. 이는 조밀한 벡터 표현에 대한 자연어 질의를 가능하게 하며, 임베딩을 텍스트 프롬프트로 해석하도록 LLM을 피지테이닝하여 실제 및 가상의 개체에 대한 이해할 수 있고 서사 중심의 분석을 가능하게 한다. 이 방법은 개념 활성화 벡터(CAVs) 향상, 새로운 품목 기술, 추천 시스템에서 사용자 선호도 복원에 성공적으로 적용되었다.

ABSTRACT

Embeddings have become a pivotal means to represent complex, multi-faceted information about entities, concepts, and relationships in a condensed and useful format. Nevertheless, they often preclude direct interpretation. While downstream tasks make use of these compressed representations, meaningful interpretation usually requires visualization using dimensionality reduction or specialized machine learning interpretability methods. This paper addresses the challenge of making such embeddings more interpretable and broadly useful, by employing Large Language Models (LLMs) to directly interact with embeddings -- transforming abstract vectors into understandable narratives. By injecting embeddings into LLMs, we enable querying and exploration of complex embedding data. We demonstrate our approach on a variety of diverse tasks, including: enhancing concept activation vectors (CAVs), communicating novel embedded entities, and decoding user preferences in recommender systems. Our work couples the immense information potential of embeddings with the interpretative power of LLMs.

연구 동기 및 목표

• 하류 기계학습 작업에서 사용되는 투명하고 고차원적인 임베딩을 해석하는 데 도전하는 데 초점 맞추기.
• 존재하지 않거나 가상의 개체의 임베딩에 대한 자연어 질의를 가능하게 하기.
• LLM을 활용해 조밀한 벡터 표현과 인간이 이해할 수 있는 서사 사이의 격차를 메우기.
• 다양한 임베딩 공간을 이해할 수 있는 일반화 가능한 피지테이닝된 LLM 프레임워크 개발하기.

제안 방법

• 사전 훈련된 LLM의 토큰 수준 임베딩 공간으로 도메인 임베딩 벡터를 투영하기 위해 어댑터 레이어 훈련하기.
• MovieLens 25M 데이터셋의 임베딩을 다룰 수 있도록 25개의 다양한 작업으로 LLM을 피지테이닝하여 강건하고 일반화 가능한 임베딩 해석 능력 확보하기.
• 과제별 보상 최대화와 함께 사전 훈련 모델과의 일치를 위해 KL 정규화를 사용하는 강화학습 목표 설정하기.
• 해석 작업을 CoMDP에서의 순차적 의사결정 문제로 공식화하며, 행동은 토큰 생성 단계에 해당한다.
• 값 함수와 엔트로피 정규화를 사용한 소프트 액터-크리틱을 최적화하여 정책 업데이트를 안정화하고 샘플 효율성을 향상시키기.
• LLM의 자동재귀적 성질을 활용해 피지테이닝된 정책와 사전 훈련된 정책 간의 시퀀스 수준 KL 발산을 정규화하기.

실험 결과

연구 질문

• RQ1 대규모 언어 모델은 자연어 프롬프트를 통해 조밀한 도메인 임베딩을 효과적으로 해석하도록 피지테이닝될 수 있는가?
• RQ2 LLM은 오직 임베딩 벡터만으로 실제 및 가상의 개체에 대해 의미 있고 기술적인 서사를 얼마나 잘 생성할 수 있는가?
• RQ3 이 프레임워크는 기존의 개념 활성화 벡터(CAVs) 기반 해석 방법을 넘어 더 풍부하고 세밀한 의미적 통찰을 포착할 수 있는가?
• RQ4 사용자 임베딩 표현을 분석함으로써 이 모델은 추천 시스템에서 사용자 선호도를 얼마나 잘 복원할 수 있는가?
• RQ5 어댑터 레이어를 통한 임베딩 벡터 통합이 LLM 생성 출력의 해석 가능성과 사실 일관성에 어떤 영향을 미치는가?

주요 결과

• 제안된 ELM 프레임워크는 존재하지 않거나 가상의 항목일지라도 그 임베딩 벡터를 바탕으로 일관되고 맥락에 맞는 서사를 성공적으로 생성한다.
• 기존의 CAV 기반 해석 방법을 넘어선 더 풍부하고 자연스러운 언어 기반 서술을 가능하게 하여 전통적인 바이너리 개념 활성화를 초월하는 일반화 및 향상된 해석 능력을 확보한다.
• 25개의 다양한 작업으로 피지테이닝함으로써 사용자 및 아이템 임베딩을 해석하는 LLM의 능력이 크게 향상되었으며, 이는 MovieLens 데이터셋의 사용자 행동과 일치하는 선호도 프로파일을 생성한다.
• KL 정규화와 소프트 액터-크리틱 훈련을 통해 정책 업데이트가 안정화되고 사전 훈련된 모델의 인덕티브 바이어스가 유지되면서 효과적인 적응이 가능해진다.
• 자연어를 통한 직접적이고 상호작용 가능한 임베딩 공간 탐색이 가능해져 추천 시스템과 개념 탐색 분야에서 실용적 유용성을 입증한다.
• 실험 결과는 모델이 잠재 공간 내에서 알려진 임베딩 벡터를 내삽하거나 외삽함으로써 새로운 품목에 대한 신뢰할 수 있는 기술을 생성할 수 있음을 보여준다.