[論文レビュー] BERT in Negotiations: Early Prediction of Buyer-Seller Negotiation Outcomes

Kushal Chawla, Gale Lucas+2 more|arXiv (Cornell University)|Apr 6, 2020

Artificial Intelligence in Law参考文献 25被引用数 4

ひとこと要約

本論文では、会話の60%のみを用いても、最終的な取引結果を早期に予測するBERTベースのモデルを提案している。予測精度は70%を超え、実際の結果から10%以内の誤差で推定可能である。事前学習された言語表現を活用することで、自然言語に早期の結果予測に十分な戦略的シグナルが含まれていることが示された。これにより、自律的交渉エージェントの訓練にフィードバックを提供できる。

ABSTRACT

The task of building automatic agents that can negotiate with humans in free-form natural language has gained recent interest in the literature. Although there have been initial attempts, combining linguistic understanding with strategy effectively still remains a challenge. Towards this end, we aim to understand the role of natural language in negotiations from a data-driven perspective by attempting to predict a negotiation's outcome, well before the negotiation is complete. Building on the recent advancements in pre-trained language encoders, our model is able to predict correctly within 10% for more than 70% of the cases, by looking at just 60% of the negotiation. These results suggest that rather than just being a way to realize a negotiation, natural language should be incorporated in the negotiation planning as well. Such a framework can be directly used to get feedback for training an automatically negotiating agent.

研究の動機と目的

• 交渉が完了する前でも、交渉における自然言語に、結果の決定に予測可能なシグナルが含まれるかどうかを調査すること。
• 事前学習された言語モデルを活用するデータドリブンなアプローチを開発し、会話の初期段階で交渉結果を予測すること。
• 早期の結果予測を自律的交渉エージェントの訓練のフィードバックとして使用可能かどうかを検討すること。
• 言語的コンテンツのみが、人間の交渉における戦略的予測にどの程度寄与できるかを評価すること。

提案手法

• 買主・売主間の交渉データを用いて事前学習済みBERTモデルを微調整し、最終的な合意結果を予測する。
• 各交渉の会話の最初の60%のみをモデルの入力として使用し、早期予測を実現する。
• モデルを、予測値と実際の合意価格との誤差を10%以内に収めるように訓練する。
• 予測結果を出力するために、[CLS]トークンの表現に系列分類ヘッドを適用する。
• 予測値と実際の合意価格との間の平均二乗誤差損失を最適化してモデルを学習する。
• テスト段階の交渉において、真の結果から10%以内の精度を評価指標として用いる。

実験結果

リサーチクエスチョン

• RQ1 交渉における自然言語を用いて、交渉が完了する前でも最終結果を予測できるか？
• RQ2 会話の一部のみを用いて、どの程度早くモデルが交渉結果を正確に予測できるか？
• RQ3 言語的コンテンツが交渉結果に関連する戦略的情報をどの程度内蔵しているか？
• RQ4 早期予測のパフォーマンスは、自律的交渉エージェントの訓練の代理指標として機能できるか？

主な発見

• モデルは、会話の60%のみを用いても、10%以内の誤差で交渉結果を70%以上の精度で予測可能である。
• モデルの予測性能から、言語的コンテンツそのものが、結果予測に有意義な戦略的情報を保持していることが示された。
• 早期予測は実現可能かつ信頼性があるため、自然言語は交渉の実行段階だけでなく、計画段階にも統合すべきである。
• BERTベースのモデルは、明示的な特徴工学を施さずに、生の会話から意味のある戦略的シグナルを抽出可能である。
• 早期結果推定を可能にするフレームワークにより、自律的交渉エージェントの訓練に有効なフィードバックメカニズムが提供された。