[논문 리뷰] Identifying Discourse Markers in Spoken Dialog

Peter A. Heeman, Donna Byron외 1명|arXiv (Cornell University)|1998. 01. 17.

Speech and dialogue systems참고 문헌 29인용 수 33

한 줄 요약

이 논문은 의사소통 마커 식별을 문장 부호 태깅 및 음성 인식에 통합한 기계학습 접근법을 제시한다. 마르코프 모델과 의사결정트리 기반 확률 추정을 사용하며, 언어 모델링 및 POS 태깅 정확도를 향상시키고 조기로 의사소통 역할을 예측할 수 있도록 한다. 이는 의사소통 마커가 임무 지향적 대화 시스템에서 대화 행위 예측에 상당한 기여를 한다는 것을 보여준다.

ABSTRACT

In this paper, we present a method for identifying discourse marker usage in spontaneous speech based on machine learning. Discourse markers are denoted by special POS tags, and thus the process of POS tagging can be used to identify discourse markers. By incorporating POS tagging into language modeling, discourse markers can be identified during speech recognition, in which the timeliness of the information can be used to help predict the following words. We contrast this approach with an alternative machine learning approach proposed by Litman (1996). This paper also argues that discourse markers can be used to help the hearer predict the role that the upcoming utterance plays in the dialog. Thus discourse markers should provide valuable evidence for automatic dialog act prediction.

연구 동기 및 목표

• 자연스럽고 임무 지향적인 음성 대화에서 의사소통 마커를 신뢰성 있게 식별할 수 있는 방법을 개발한다.
• 의사소통 마커 검출을 음성 인식 파이프라인에 통합하여 언어 모델링과 POS 태깅을 향상시킨다.
• 의사소통 마커가 다음 말하기의 의도된 의사소통 역할을 어떻게 신호하는지 조사한다.
• 의사소통 마커가 음성 인식과 대화 이해에 미치는 영향, 특히 약한 기대가 존재하는 상황(예: 인접 쌍 이어짐 이후의 전후 관계)에서의 영향을 평가한다.
• 이전의 방법들(예: Litman의 방법)과 비교하여 제안된 방법의 장점을 입증한다.

제안 방법

• 저자들은 Trains 코퍼스에 의사소통 마커를 주석화하기 위해 수정된 Penn Treebank POS 태그셋을 사용하며, 특수 태그 4개(UH_D, CC_D, RB_D, AC)를 추가한다.
• 조건부 랜덤 필드(CRF)-유사 마르코프 모델을 사용하여 POS 태깅과 의사소통 마커 식별을 동시에 모델링하며, 훈련 데이터를 분할하기 위해 의사결정트리를 이용해 확률을 추정한다.
• 음성 인식 성능 향상을 위해 음성의 어조 구절 경계 톤과 말의 수정 탐지 기능과 같은 청각적 및 언어적 특징을 모델에 통합한다.
• 의사소통 마커의 존재는 대화 행위 예측과 같은 후속 작업의 특징으로 사용되며, 이는 다음 말하기의 역할을 예측하는 데 유용한 정보를 제공한다.
• 시스템은 Trains 코퍼스를 기반으로 훈련되며, 이 코퍼스에는 6.5시간의 자연스러운 대화에서 8,278개의 의사소통 마커가 포함되어 있다. 평가 기준은 단어 퍼플렉서티와 태깅 오류율이다.
• 이 방법은 의사소통 마커 식별을 별도의 분류 작업이 아닌 음성 인식 과정의 일부로 간주함으로써 실시간 추론을 가능하게 한다.

실험 결과

연구 질문

• RQ1 자연스럽고 임무 지향적인 대화에서 기계학습 기반으로 음성 인식 프레임워크 내에서 의사소통 마커를 신뢰성 있게 식별할 수 있는가?
• RQ2 의사소통 마커 식별을 POS 태깅 및 언어 모델링에 통합할 경우 음성 인식 성능에 어떤 영향을 미치는가?
• RQ3 특히 모호한 맥락에서 의사소통 마커가 다음 말하기의 의도된 의사소통 역할을 어느 정도 예측할 수 있는가?
• RQ4 의사소통 마커는 음성 대화 시스템에서 대화 행위 예측 정확도를 향상시킬 수 있는가?
• RQ5 말의 수정 해결 및 문장 분할 기법은 의사소통 마커 식별 정확도 향상에 어떤 기여를 하는가?

주요 결과

• 의사소통 마커 식별을 POS 태깅 및 언어 모델링에 통합함으로써 단어 퍼플렉서티와 POS 태깅 오류율이 유의미하게 감소하였다.
• 의사소통 마커는 다음 말하기의 의사소통 역할을 매우 잘 예측하는 것으로 나타났으며, 특히 강한 기대(예: 인접 쌍 완성)가 없는 맥락에서 두드러졌다.
• Trains 코퍼스에서 비승인 응답의 44.1%가 의사소통 마커로 시작되었으며, 이는 임무 지향 대화에서 의사소통 마커의 보편성을 시사한다.
• 훈련 데이터를 분할하기 위해 의사결정트리를 사용함으로써 복잡한 확률 분포를 효과적으로 추정할 수 있었으며, 이는 모델의 일반화 능력을 향상시켰다.
• 말의 수정 탐지 및 어조 구절 경계 분석을 통합함으로써 의사소통 마커 식별 정확도가 더욱 향상되었다.
• 결과적으로 의사소통 마커는 음성 대화 시스템에서 잡음으로 간주되어서는 안 되며, 대신 의사소통 구조와 대화 행위 예측에 유용한 신호로 간주되어야 한다는 점이 제안된다.