[논문 리뷰] BERT in Negotiations: Early Prediction of Buyer-Seller Negotiation Outcomes

Kushal Chawla, Gale Lucas외 2명|arXiv (Cornell University)|2020. 04. 06.

Artificial Intelligence in Law참고 문헌 25인용 수 4

한 줄 요약

이 논문은 구매자-판매자 협상 대화의 처음 60%만을 사용하여 BERT 기반 모델을 제안하며, 협상이 끝나기 이르기 전에 협상 결과를 예측한다. 이 모델은 실제 결과와 10% 이내의 정확도로 70% 이상의 정확도를 달성한다. 사전 훈련된 언어 표현을 활용함으로써 자연어가 조기에 결과를 예측할 수 있는 충분한 전략적 신호를 담고 있음을 입증하며, 자율적 협상 에이전트 훈련을 위한 피드백을 제공한다.

ABSTRACT

The task of building automatic agents that can negotiate with humans in free-form natural language has gained recent interest in the literature. Although there have been initial attempts, combining linguistic understanding with strategy effectively still remains a challenge. Towards this end, we aim to understand the role of natural language in negotiations from a data-driven perspective by attempting to predict a negotiation's outcome, well before the negotiation is complete. Building on the recent advancements in pre-trained language encoders, our model is able to predict correctly within 10% for more than 70% of the cases, by looking at just 60% of the negotiation. These results suggest that rather than just being a way to realize a negotiation, natural language should be incorporated in the negotiation planning as well. Such a framework can be directly used to get feedback for training an automatically negotiating agent.

연구 동기 및 목표

• 협상이 끝나기 전에 협상의 자연어가 최종 결과를 예측할 수 있는 신호를 담고 있는지 조사하기 위해.
• 사전 훈련된 언어 모델을 활용하여 대화 초반에 협상 결과를 조기에 예측하는 데이터 기반 접근법을 개발하기 위해.
• 조기 결과 예측을 자율적 협상 에이전트 훈련을 위한 피드백으로 사용할 수 있는지 탐색하기 위해.
• 언어적 내용만으로 인간 협상에서 전략적 예측을 얼마나 잘 할 수 있는지 평가하기 위해.

제안 방법

• 구매자-판매자 협상 대화 데이터를 기반으로 사전 훈련된 BERT 모델을 미세조정하여 최종 합의 결과를 예측하기 위해.
• 모델에 입력으로 각 협상의 첫 60%만을 사용하여 조기 예측을 수행하기 위해.
• 모델을 최종 합의 가치를 10% 이내의 오차 범위로 예측하도록 훈련하기 위해.
• 예측 결과를 출력하기 위해 [CLS] 토큰 표현에 시퀀스 분류 헤드를 적용하기 위해.
• 예측된 합의 값과 실제 합의 값 간의 평균 제곱오차 손실을 최소화하여 모델을 최적화하기 위해.
• 테스트 협상 전반에서 진짜 결과와 10% 이내의 정확도를 평가 지표로 사용하기 위해.

실험 결과

연구 질문

• RQ1 협상의 자연어를 사용하여 협상이 완료되기 전에 최종 결과를 예측할 수 있는가?
• RQ2 대화의 일부만을 사용할 때 모델이 얼마나 이르게 협상 결과를 정확히 예측할 수 있는가?
• RQ3 언어적 내용이 협상 결과에 관련된 전략적 정보를 얼마나 잘 담고 있는가?
• RQ4 조기 예측 성능가능성을 자율적 협상 에이전트 훈련을 위한 피드백으로 사용할 수 있는가?

주요 결과

• 모델은 대화의 60%만을 사용하여도 실제 결과와 10% 이내의 오차 범위에서 70% 이상의 정확도로 협상 결과를 예측한다.
• 모델의 예측 성능는 언어적 내용만으로도 결과 예측에 있어 중요한 전략적 정보를 담고 있음을 시사한다.
• 조기 예측은 가능하고 신뢰할 수 있으며, 자연어를 협상 기획 단계에 통합해야 하며 실행 단계에만 국한하지 말아야 함을 시사한다.
• 결과적으로 BERT 기반 모델은 명시적 특징 공학 없이도 원시 대화에서 의미 있는 전략적 신호를 추출할 수 있음을 보여준다.
• 프레임워크는 조기 결과 추정을 가능하게 하여 자율적 협상 에이전트 훈련을 위한 실질적인 피드백 메커니즘을 제공한다.