[논문 리뷰] FASTER Recurrent Networks for Video Classification.

Linchao Zhu, Laura Sevilla-Lara외 4명|arXiv (Cornell University)|2019. 06. 10.

Human Pose and Action Recognition인용 수 4

한 줄 요약

이 논문은 NLP 강의 개념 간의 개념적 의존 관계를 학습할 수 있도록 지원하기 위해 1,352개의 NLP 강의 파일과 수동으로 레이블링된 208개의 전제 관계를 포함한 LectureBank 데이터셋을 소개한다. 임베딩 기반 방법과 신경망/그래프 기반 모델을 사용하여 전제 관계 예측 성능을 향상시켰으며, 이는 커리큘럼 설계 및 독서 목록 생성과 같은 응용 분야를 뒷받침한다.

ABSTRACT

Recent years have witnessed the rising popularity of Natural Language Processing (NLP) and related fields such as Artificial Intelligence (AI) and Machine Learning (ML). Many online courses and resources are available even for those without a strong background in the field. Often the student is curious about a specific topic but does not quite know where to begin studying. To answer the question of “what should one learn first,”we apply an embedding-based method to learn prerequisite relations for course concepts in the domain of NLP. We introduce LectureBank, a dataset containing 1,352 English lecture files collected from university courses which are each classified according to an existing taxonomy as well as 208 manually-labeled prerequisite relation topics, which is publicly available 1. The dataset will be useful for educational purposes such as lecture preparation and organization as well as applications such as reading list generation. Additionally, we experiment with neural graph-based networks and non-neural classifiers to learn these prerequisite relations from our dataset.

연구 동기 및 목표

• 효과적인 학습 경로를 확보하기 위해 NLP 수업 개념 간의 전제 관계를 식별하는 데 도전하는 것.
• 교육 AI 응용 분야를 위한 공개 가능하고 고품질의 강의 파일 데이터셋을 구축하여 전제 관계를 레이블링하는 것.
• 강의 내용과 분류 체계에서 유래한 전제 관계 구조를 학습하는 데 있어 신경망 모델과 비신경망 모델의 성능을 평가하는 것.
• 학습된 개념 의존성 정보를 바탕으로 독서 목록 생성 및 강의 구성과 같은 교육 응용 분야를 지원하는 것.

제안 방법

• 저자들은 기존 분류 체계를 사용하여 대학 NLP 수업에서 1,352개의 영문 강의 파일을 수집하고 분류하였다.
• 강의 개념 간의 208개의 전제 관계를 수동으로 레이블링하여 LectureBank 데이터셋을 구성하였다.
• 강의 텍스트에서 개념 임베딩을 학습하여 공통 벡터 공간 내에서 수업 주제를 표현하였다.
• 임베딩과 분류 체계의 구조 정보로부터 전제 관계를 예측하기 위해 신경망 기반 그래프 모델과 비신경망 분류기 모델을 학습시켰다.
• 모델의 성능 평가를 위해 데이터셋을 활용하여 전제 의존성 학습 및 예측 능력을 평가하였다.
• 텍스트적 내용과 구조적 분류 체계 정보를 모두 활용하여 관계 예측 성능 향상을 도모하는 접근 방식을 취하였다.

실험 결과

연구 질문

• RQ1 임베딩 기반 방법이 NLP 수업 개념 간의 전제 관계를 학습하는 데 얼마나 효과적인가?
• RQ2 비신경망 분류기와 비교해 볼 때 신경망 기반 그래프 모델의 전제 의존성 예측 성능은 어떠한가?
• RQ3 강의 내용과 분류 체계 정보가 함께 사용될 경우 전제 관계 예측 성능 향상에 얼마나 기여하는가?
• RQ4 LectureBank 데이터셋은 독서 목록 생성과 같은 후속 교육 응용 분야에서 얼마나 유용한가?

주요 결과

• LectureBank 데이터셋은 1,352개의 강의 파일과 208개의 수동으로 레이블링된 전제 관계를 포함하며, 연구 목적으로 공개되어 있다.
• 임베딩 기반 방법은 NLP 수업 개념 간의 의미적 및 구조적 의존성을 효과적으로 포착한다.
• 신경망 기반 그래프 모델은 비신경망 분류기보다 데이터셋을 기반으로 한 전제 관계 예측에서 뛰어난 성능을 보인다.
• 학습된 과정 개념 의존성 모델링을 통해 커리큘럼 설계 및 독서 목록 생성과 같은 실용적 응용 분야를 지원할 수 있다.