[논문 리뷰] Does it care what you asked? Understanding Importance of Verbs in Deep Learning QA System

Barbara Rychalska, Dominika Basaj외 2명|arXiv (Cornell University)|2018. 09. 11.

Topic Modeling참고 문헌 9인용 수 7

한 줄 요약

이 논문은 WordNet의 반대어를 사용하여 질문의 동사를 부정함으로써 딥러닝 질의응답(QA) 시스템에서 동사의 역할을 조사한다. 주요 의미 변화가 있음에도 불구하고 QA 시스템의 예측은 90.5%의 경우에서 변화하지 않았으며, 이는 데이터셋 편향과 명사명칭에 초점을 맞춘 모델의 주의 메커니즘이 동사에 미치는 영향을 최소화하고 있음을 드러낸다.

ABSTRACT

In this paper we present the results of an investigation of the importance of verbs in a deep learning QA system trained on SQuAD dataset. We show that main verbs in questions carry little influence on the decisions made by the system - in over 90% of researched cases swapping verbs for their antonyms did not change system decision. We track this phenomenon down to the insides of the net, analyzing the mechanism of self-attention and values contained in hidden layers of RNN. Finally, we recognize the characteristics of the SQuAD dataset as the source of the problem. Our work refers to the recently popular topic of adversarial examples in NLP, combined with investigating deep net structure.

연구 동기 및 목표

• 딥러닝 QA 시스템의 의사결정 과정에 동사 의미가 미치는 영향을 조사하는 것.
• 의미적 부정이 심각한 변화를 초래함에도 불구하고 질문의 동사를 부정했을 때 시스템 예측이 어떻게 변하는지 분석하는 것.
• RNN 기반 QA 모델의 주의 메커니즘과 은닉 표현의 내부 메커니즘을 분석하는 것.
• SQuAD 데이터셋의 구조적 편향을 진단하여 모델이 동사 의미를 간과하게 하는 원인을 규명하는 것.

제안 방법

• WordNet를 사용하여 주요 동사를 반대어로 대체함으로써 문법적 구조를 유지한 악성 질문을 생성하였다.
• SQuAD 개발 세트에서 원본 질문과 부정된 질문 간의 모델 출력 일관성을 측정하였다.
• 자기 주의 점수를 분석하여 단어의 중요도를 평가하였으며, 어종에 중점을 두었다.
• LSTM 레이어 전반에 걸쳐 은닉 상태의 분산과 엔트로피를 시각화하고 비교하여 의미 인코딩을 추적하였다.
• 주어진 어종 범주 간 주의 점수 차이의 유의성을 평가하기 위해 통계적 검정(Kolmogorov-Smirnov)을 사용하였다.
• 은닉층 통계(분산, 엔트로피)와 주의 점수를 상관관계 분석하여 인코딩 패턴을 규명하였다.

실험 결과

연구 질문

• RQ1 QA 질문에서 동사의 의미를 부정하면 모델의 예측 답변에 어떤 영향을 미치는가?
• RQ2 QA 모델의 주의 메커니즘이 동사보다 다른 어종에 얼마나 더 우선순위를 두는가?
• RQ3 은닉 레이어에서 의미적 중요도와 표현 분산은 RNN에 어떻게 인코딩되는가?
• RQ4 SQuAD 데이터셋의 어떤 구조적 특징이 모델이 동사 의미에 민감하지 않게 만드는가?

주요 결과

• 질문의 동사를 부정했을 때도 예측 답변이 변화하지 않은 경우가 90.5%에 달했으며, 이는 의미적 변화가 크지만도 예측이 그대로 유지됨을 의미한다.
• 원본 질문과 부정된 질문 간 평균 의사결정 신뢰도(소프트맥스 확률)는 거의 동일했으며, 각각 0.61과 0.60이었다.
• 질문 자기 주의 점수는 동사(평균 2.32)가 명사(평균 5.43)보다 유의미하게 낮았으며, 이는 동사에 대한 주의가 최소임을 시사한다.
• Kolmogorov-Smirnov 검정을 통해 동사와 명사 간 주의 점수 분포에 통계적으로 유의미한 차이가 있음을 확인하였다(p < 0.001).
• LSTM의 은닉 레이어에서 분산은 명사(특히 명사명칭)가 동사보다 높았으며, 분산과 주의 점수 간 피어슨 상관계수는 0.85였다.
• 은닉 상태의 엔트로피와 주의 점수 사이에 강한 음의 상관관계(r = -0.91)가 발견되어, 의미적 중요도가 네트워크의 초기 단계에서 이미 인코딩됨을 나타낸다.