[논문 리뷰] Control Globally, Understand Locally: A Global-to-Local Hierarchical Graph Network for Emotional Support Conversation

Wei Peng, Yue Hu외 4명|arXiv (Cornell University)|2022. 04. 27.

Mental Health via Writing인용 수 4

한 줄 요약

이 논문은 전반적인 원인(예: 잠재적인 정서적 문제)과 국소적인 심리적 의도(예: 암묵적인 정서 상태)를 다중 소스 인코더와 계층적 그래프 추론기를 통해 동시에 포착함으로써 정서적 지지 대화를 모델링하는 글로벌-로컬 계층적 그래프 네트워크(GLHG)를 제안한다. 이 모델은 ESConv 데이터셋에서 자동 평가 및 인간 평가 모두에서 최신 기준(SOTA) 성능을 달성하며, 그래프 기반 추론 메커니즘과 새로운 글로벌 가이드 훈련 목표를 통해 전반적 맥락과 국소적 의도를 효과적으로 통합한다.

ABSTRACT

Emotional support conversation aims at reducing the emotional distress of the help-seeker, which is a new and challenging task. It requires the system to explore the cause of help-seeker's emotional distress and understand their psychological intention to provide supportive responses. However, existing methods mainly focus on the sequential contextual information, ignoring the hierarchical relationships with the global cause and local psychological intention behind conversations, thus leads to a weak ability of emotional support. In this paper, we propose a Global-to-Local Hierarchical Graph Network to capture the multi-source information (global cause, local intentions and dialog history) and model hierarchical relationships between them, which consists of a multi-source encoder, a hierarchical graph reasoner, and a global-guide decoder. Furthermore, a novel training objective is designed to monitor semantic information of the global cause. Experimental results on the emotional support conversation dataset, ESConv, confirm that the proposed GLHG has achieved the state-of-the-art performance on the automatic and human evaluations. The code will be released in here \footnote{\small{~https://github.com/pengwei-iie/GLHG}}.

연구 동기 및 목표

• 기존 방법이 순차적 맥락에만 초점을 맞추고 정서적 지지 대화에서 전반적 원인과 국소적 심리적 의도 간의 계층적 관계를 忽시하는 한계를 해결하기 위해.
• 통합 프레임워크 내에서 전반적 원인, 국소적 심리적 의도, 대화 역사를 다중 소스 정보로 모델링하여 정서적 지지 응답 생성을 향상시키기 위해.
• 전반적 원인의 의미 정보를 모니터링하고 유지하는 새로운 훈련 목표를 설계하여, 국소적 의도에 의해 가려지지 않도록 하여 응답 품질을 향상시키기 위해.
• 계층적 그래프 추론이 대화 수준 및 문장 수준의 관계를 효과적으로 포착하여 더 공감적이고 맥락에 부합하는 응답을 생성하는 데 기여하는지 검증하기 위해.

제안 방법

• 다중 소스 인코더는 사전 훈련된 COMET 모델을 통해 추출한 대화 역사, 상황적 맥락, 심리적 의도를 결합하여 전반적 요인과 국소적 요인을 표현한다.
• 계층적 그래프 추론기는 전반적 원인(대화 수준), 국소적 심리적 의도(문장 수준), 대화 역사(턴 수준)의 세 핵심 노드 간의 상호작용을 그래프 어텐션 기반 메커니즘으로 모델링한다.
• 그래프 추론기는 메시지 전파를 사용하여 노드 표현을 업데이트하며, 반복적 집합을 통해 국소적 종속성과 전반적 맥락을 모두 포착한다.
• 글로벌 가이드 디코더는 전반적 원인의 의미적 완전성을 유지하기 위해 새로운 L2 손실을 통합하여 응답 생성 중에도 전반적 원인이 영향력을 유지하도록 보장한다.
• 모델은 ESConv 데이터셋에서 교차 엔트로피 손실과 제안된 L2 손실의 조합을 사용하여 엔드 투 엔드로 훈련된다.

실험 결과

연구 질문

• RQ1 대화 시스템은 표면적 대화 맥락을 넘어서 도움을 요청하는 이의 정서적 고통의 근본 원인을 더 잘 이해할 수 있는가?
• RQ2 전반적 원인과 국소적 심리적 의도 간의 계층적 관계를 모델링할 경우, 정서적 지지 응답의 품질은 어느 정도 향상되는가?
• RQ3 그래프 기반 메커니즘이 대화 역사, 전반적 원인, 국소적 의도 간의 다중 수준 상호작용을 효과적으로 포착할 수 있는가?
• RQ4 전반적 원인 의미 정보를 모니터링하는 전용 훈련 목표는 더 일관되고 지지적인 응답을 도출하는 데 기여하는가?

주요 결과

• GLHG는 자동 평가 지표에서 ESConv 데이터셋에서 최신 기준(SOTA) 성능을 달성하였으며, BERTScore F1은 7.57, B-4는 2.13, D-1은 3.50, R-L은 16.37을 기록하였다.
• 제거 실험에서는 전반적 원인을 제거한 경우(BERTScore 6.01) 성능 저하가 발생하여 전반적 원인이 응답 품질에 결정적인 역할을 한다는 것을 확인하였다.
• 국소적 의도 구성 요소를 제거한 경우(BERTScore 6.58) 성능 저하가 발생하여 암묵적인 심리적 상태를 포착하는 것이 중요하다는 것을 확인하였다.
• 그래프 추론기의 기여가 뚜렷하여 제거 시 성능이 BERTScore 5.83으로 떨어지며, 계층적 관계 모델링의 가치를 입증하였다.
• 제안된 전반적 원인 의미에 대한 L2 손실은 응답 일관성을 향상시키며, 이를 제거할 경우 BERTScore가 1.5점 감소(6.15 vs. 7.57)함으로써 효과를 입증하였다.
• 정성적 분석 결과, GLHG는 블렌더봇과 같은 기존 기준 대비 더 공감적이고 맥락에 부합하며 제안 중심의 응답을 생성한다. 예: '사람들이 이해해주기 힘들다는 건 알겠지만, 상사에게 이야기해 볼 수 있어요.'