[논문 리뷰] Continual Learning with Knowledge Transfer for Sentiment Classification

Zixuan Ke, Bing Liu외 2명|arXiv (Cornell University)|2021. 12. 18.

Domain Adaptation and Few-Shot Learning참고 문헌 32인용 수 9

한 줄 요약

이 논문은 감성 분류를 위한 지속적 학습 프레임워크인 KAN을 제안한다. KAN은 지식 기반과 접근성 네트워크를 통해 전방 및 후방 지식 전이를 실현하여 새로운 작업과 이전 작업 모두에서 정확도를 향상시킨다. KAN은 최신 기준보다 뛰어난 성능을 보이며, 24개 작업 중 21개에서 가장 높은 정확도를 기록했고, 참격적 잊기(catastrophic forgetting) 없이 효과적인 双방향 지식 전이를 보여주었다.

ABSTRACT

This paper studies continual learning (CL) for sentiment classification (SC). In this setting, the CL system learns a sequence of SC tasks incrementally in a neural network, where each task builds a classifier to classify the sentiment of reviews of a particular product category or domain. Two natural questions are: Can the system transfer the knowledge learned in the past from the previous tasks to the new task to help it learn a better model for the new task? And, can old models for previous tasks be improved in the process as well? This paper proposes a novel technique called KAN to achieve these objectives. KAN can markedly improve the SC accuracy of both the new task and the old tasks via forward and backward knowledge transfer. The effectiveness of KAN is demonstrated through extensive experiments.

연구 동기 및 목표

• 기밀성으로 인해 이전 작업의 데이터를 확보할 수 없는 지속적 학습 환경에서 감성 분류 정확도를 시간이 지남에 따라 향상시키는 데 도전한다.
• 이전 데이터를 사용하지 않고도 과거 작업에서 새로운 작업으로의 전방 지식 전이를 가능하게 한다.
• 새로운 작업을 학습하는 동안 이전 모델의 성능을 향상시키는 후방 지식 전이를 달성한다.
• 유사한 감성 분류 작업 간의 공유 지식을 활용하여 참격적 잊기 완화에 대한 의존도를 줄인다.
• 다양한 제품 도메인을 포함한 실세계 감성 분석 응용 프로그램에 특화된 확장 가능하고 강력한 지속적 학습 프레임워크를 개발한다.

제안 방법

• KAN은 이중 네트워크 아키텍처를 사용한다: 과거 작업 지식을 저장하는 지식 기반(KB)이 있는 주 지속적 학습(MCL) 네트워크와 현재 작업에 적합한 과거 지식을 선택하는 접근성(AC) 네트워크.
• AC 네트워크는 현재 작업에 기반해 지식 기반(KB)에서 유용한 지식을 동적으로 식별하고 검색함으로써 효과적인 전방 지식 전이를 가능하게 한다.
• 새로운 작업을 학습하는 동안 KB에 저장된 공유 지식은 새로운 작업의 데이터를 이용해 개선되며, 이는 이전 작업의 성능 향상에 기여하는 후방 지식 전이를 가능하게 한다.
• 지식 기반은 점진적으로 업데이트되어, 이전에 학습한 모든 작업의 지식을 유지하고 향상시킬 수 있다.
• 프레임워크는 작업별 분류 손실, 지식 정착(knowledge distillation) 및 정규화를 결합한 손실 함수를 사용하여 지식의 유지 및 향상을 보장한다.
• 실험은 다양한 제품 도메인의 24개 감성 분류 작업의 시퀀스를 사용하며, 결과는 10개의 랜덤 작업 순서에 대해 평균화된다.

실험 결과

연구 질문

• RQ1 기존 데이터에 접근할 수 없는 조건에서, 과거 감성 분류 작업의 지식을 효과적으로 전이하여 새로운 작업 학습을 향상시킬 수 있는가?
• RQ2 새로운 작업 학습 과정에서 동시에 이전에 학습한 모델의 성능을 향상시키는 후방 지식 전이가 가능한가?
• RQ3 감성 분류 작업 간의 공유된 언어 패턴을 활용하면 기존의 지속적 학습 방법에 비해 참격적 잊기 감소 및 전체 정확도 향상에 기여하는가?
• RQ4 전방 및 후방 지식 전이 메커니즘은 개별적으로나 조합적으로 감성 분류에 얼마나 효과적인가?
• RQ5 지식 기반과 접근성 네트워크 아키텍처는 기존의 지속적 학습 베이스라인에 비해 다양한 감성 분류 작업에서 정확도 및 강건성 측면에서 뛰어나게 성능을 내는가?

주요 결과

• KAN은 24개 개별 감성 분류 작업 중 21개에서 평균 정확도가 가장 높아 뛰어난 성능과 강건성을 입증했다.
• 전방 전이 설정에서, KAN은 24개 작업을 학습한 후 평균 정확도 0.8524를 기록했으며, 다음으로 뛰어난 베이스라인인 N-CL의 0.8390보다 뚜렷이 높았다.
• 후방 전이의 경우, KAN은 24개 작업을 거친 후 이전에 학습한 작업의 평균 정확도를 ONE 베이스라인의 0.7846에서 0.8524로 향상시켜 시간이 지남에 따라 강력한 지식 강화 효과를 보였다.
• 전방 지식 전이 효과가 후방 전이보다 더 강력한 편이었으며, 이는 전방 전이가 이전 지식을 더 이른 시점에 더 효과적으로 활용하기 때문이다.
• KAN의 후방 전이는 추가적인 피지컬 튜닝이나 리플레이 없이도 오래된 작업의 성능을 일관되게 향상시켜 효과적인 지식 유지 및 강화를 보여주었다.
• KAN이 절대 최고 점수를 기록하지 못한 경우조차도 성능이 경쟁력 있었으며, 이는 다양한 제품 도메인에 걸쳐 뛰어난 안정성과 일반화 능력을 지닌다는 것을 시사한다.