[논문 리뷰] Rethinking Cooperative Rationalization: Introspective Extraction and Complement Control

Mo Yu, Shiyu Chang외 2명|arXiv (Cornell University)|2019. 10. 29.

Explainable Artificial Intelligence (XAI)참고 문헌 29인용 수 5

한 줄 요약

이 논문은 협동적 합리화 모델에서 숨겨진 레이블 기반 통신으로 인해 추출형 설명이 해석하기 어려워지는 문제를 해결하기 위해 내성적 설명 생성을 통합한 삼자 게임 이론적 프레임워크를 제안한다. 예측과 설명 생성을 제어 메커니즘을 통해 분리함으로써 설명 생성 과정에서의 비의도적 레이블 기반 커뮤니케이션을 차단하고, 내성적 메커니즘을 도입함으로써 예측에 관련된 특징을 인지하는 모델의 인식 능력을 향상시킨다. 이로 인해 합리화의 품질이 향상되고 예측 정확도는 유지되며, 더 의미 있고 압축된 합리화를 제공함으로써 텍스트 분류 과제에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Selective rationalization has become a common mechanism to ensure that predictive models reveal how they use any available features. The selection may be soft or hard, and identifies a subset of input features relevant for prediction. The setup can be viewed as a co-operate game between the selector (aka rationale generator) and the predictor making use of only the selected features. The co-operative setting may, however, be compromised for two reasons. First, the generator typically has no direct access to the outcome it aims to justify, resulting in poor performance. Second, there's typically no control exerted on the information left outside the selection. We revise the overall co-operative framework to address these challenges. We introduce an introspective model which explicitly predicts and incorporates the outcome into the selection process. Moreover, we explicitly control the rationale complement via an adversary so as not to leave any useful information out of the selection. We show that the two complementary mechanisms maintain both high predictive accuracy and lead to comprehensive rationales.

연구 동기 및 목표

• 협동적 합리화 모델에서 레이블 기반 커뮤니케이션을 악용하여 부패하고 해석하기 어려운 합리화가 발생하는 문제를 해결하기 위해.
• 자기 설명 가능한 NLP 모델에서 전체 입력 대신 합리화를 사용할 경우 성능 저하를 완화하기 위해.
• 설명이 예측에 유용하고 의미적으로도 유의미한 동시에 보장되는 프레임워크를 설계하기 위해.
• 예측에 관련된 특징을 인지하는 모델의 인식 능력을 향상시키기 위해 설명 생성 과정에 내성적 사고를 도입하기 위해.
• 제한된 지도 학습 조건 하에서 개선된 설명 품질과 강건성을 이론적·실험적으로 검증하기 위해.

제안 방법

• 추출기, 예측기, 제어기로 구성된 삼자 게임을 제안하여 추출기와 예측기 사이의 비의도적 레이블 기반 커뮤니케이션을 차단한다.
• 예측에 기대하는 결과를 바탕으로 합리화를 생성하도록 유도하는 내성적 메커니즘을 도입한다.
• 최소화 최대 게임 구조를 사용하여 일관성을 강제하고 설명 과정에서의 단기적 학습을 방지한다.
• 연속성 및 희소성 정규화를 적용하여 합리화가 압축되고 일관되게 유지되도록 보장한다.
• 이중 단계 학습 과정을 적용: 공동 학습 이전에 회귀 헤드를 사용해 추출기를 미리 훈련시켜 初기 합리화 품질을 향상시킨다.
• 합리화 길이를 제약하고 다양성과 관련성을 확보하기 위해 허프 손실을 사용한다.

실험 결과

연구 질문

• RQ1 삼자 게임 프레임워크는 협동적 합리화에서 비의도적인 레이블 기반 커뮤니케이션을 효과적으로 제거할 수 있는가?
• RQ2 내성적 설명 생성은 더 의미 있고 예측에 도움이 되는 합리화를 이끌어낼 수 있는가?
• RQ3 제안된 방법은 더 짧고 압축된 합리화를 생성하면서도 높은 예측 정확도를 유지할 수 있는가?
• RQ4 제한된 지도 학습 조건 하에서 이전 연구 대비 합리화 품질과 모델 성능 측면에서 어떻게 비교되는가?
• RQ5 추출기의 미리 훈련이 전체 프레임워크의 강건성과 성능 향상에 얼마나 기여하는가?

주요 결과

• 단일 요소 맥주 리뷰 과제에서 제안된 방법은 87.1%의 정확도를 달성하여 Lei2016의 81.4%와 +minimax의 82.9%를 능가한다.
• 관계 분류 과제에서 방법은 85.8%의 정확도를 기록하여 Lei2016의 74.6%와 +minimax의 73.2%를 크게 앞서며 성능을 뛰어넘는다.
• 인간 평가 결과, 내성적 모델의 32%의 합리화가 '좋음'으로 평가되었으며, Lei2016의 경우 20%에 그쳐 해석 가능성 향상이 확인되었다.
• 미리 훈련을 적용한 결과, 20% 선택된 합리화에서 모델은 87.50%의 정확도를 달성했고, Lei2016는 동일 조건에서 83.88%로 하락하였다.
• 강한 연속성 제약 조건 하에서도 높은 성능 유지를 보이며, 정보성 있고 짧은 어휘 조합으로의 일반화 능력이 뛰어나다는 것을 시사한다.
• 내성적 프레임워크는 'no'나 'not'과 같은 비의도적 패턴에 대한 의존도를 감소시켜 더 맥락에 부합하는 합리화를 생성한다.