[논문 리뷰] A Rate-Distortion view of human pragmatic reasoning

Noga Zaslavsky, Jennifer Hu외 1명|arXiv (Cornell University)|2020. 05. 13.

Natural Language Processing Techniques참고 문헌 21인용 수 60

한 줄 요약

이 논문은 합리적 화행 이론(RSA)을 교대 최댓값화로 재정의하여 RSA가 기대 효용과 의사소통 노력을 포함한 트레이드오프를 최적화하고, RSA를 Rate–Distortion (RD) 이론에 근거하여 RD-RSA를 형성하는 것을 보여주며, 동역학과 행동 예측을 비교한다.

ABSTRACT

What computational principles underlie human pragmatic reasoning? A prominent approach to pragmatics is the Rational Speech Act (RSA) framework, which formulates pragmatic reasoning as probabilistic speakers and listeners recursively reasoning about each other. While RSA enjoys broad empirical support, it is not yet clear whether the dynamics of such recursive reasoning may be governed by a general optimization principle. Here, we present a novel analysis of the RSA framework that addresses this question. First, we show that RSA recursion implements an alternating maximization for optimizing a tradeoff between expected utility and communicative effort. On that basis, we study the dynamics of RSA recursion and disconfirm the conjecture that expected utility is guaranteed to improve with recursion depth. Second, we show that RSA can be grounded in Rate-Distortion theory, while maintaining a similar ability to account for human behavior and avoiding a bias of RSA toward random utterance production. This work furthers the mathematical understanding of RSA models, and suggests that general information-theoretic principles may give rise to human pragmatic reasoning.

연구 동기 및 목표

• RSA 재귀적 추론에 내재된 최적화 원리를 명확히 밝힌다.
• RSA의 역학을 유용성/의사소통 노력의 균형을 이루는 교대 최댓값화 과정으로 제시한다.
• Rate–Distortion 이론에 RSA를 기초시켜 RD-RSA를 도출하고 RSA와의 예측 차이를 비교한다.
• RD-RSA가 비정보적 무작위 발화에 대한 편향을 줄이면서 RSA의 설명력을 보존하는지 평가한다.

제안 방법

• G_alpha = H_S(U|M) + alpha E_S[V_L]의 최적화로 RSA를 형식화하고, RSA 재귀가 교대 최댓값화(S_t 및 L_t 업데이트)를 구현함을 보인다.
• F_alpha[S,L] = I_S(M;U) - alpha E_S[V_L]를 최소화하여 RD-RSA를 도출하고, 자기 일관 업데이트 규칙 S(u|m) ∝ S(u) exp(alpha V_L(m,u)), S(u) = sum_m P(m) S(u|m), L(m|u) ∝ S(u|m) P(m)/S(u)를 유도한다.
• α에 따른 RSA와 RD-RSA의 점근적 거동을 분석하고, α = 1에서의 임계점을 포함한다.
• 참고 게임 실험의 인간 데이터에 대해 RSA와 RD-RSA의 예측을 비교하고, 재귀 깊이에 따른 적합도를 평가한다.
• 맥락화의 정보 이론적 해석에 대한 시사점과 Optimal Transport와 같은 관련 프레임워크와의 잠재적 연계를 논의한다.

실험 결과

연구 질문

• RQ1 RSA 재귀가 기대 효용을 극대화하는가, 아니면 의사소통 노력을 포함하는 트레이드오프를 최적화하는가?
• RQ2 RSA를 Rate–Distortion 이론에 기반시켜, 화자의 업데이트가 달라진 RD-RSA를 얻을 수 있는가?
• RQ3 재귀 깊이가 커지고 α가 달라질 때 RSA와 RD-RSA의 역학은 어떻게 변하는가?
• RQ4 RD-RSA의 예측이 비정보적 무작위 발화를 피하는 데 더 나은가 하면서 인간 데이터에 대한 설명력은 유지되는가?
• RQ5 참조 게임 데이터에서 RSA와 RD-RSA가 인간의 프래그마틱 추론과 어떻게 비교되는가?

주요 결과

• RSA 재귀는 기대 효용과 의사소통 노력 간의 트레이드오프를 최적화하는 교대 최댓값화를 구현하며, 엄밀히 기대 효용만의 극대화는 아니다.
• RD-RSA는 화자의 업데이트 규칙에 약간이지만 의미 있는 수정을 가한, 원칙적인 RD 이론 기반의 RSA를 제공한다.
• RSA와 RD-RSA 모두 α 의존적 역학을 보이고, α = 1에서 임계점을 가지며, 특정 조건 하에서 RD-RSA는 α = 1에서 전역 수렴할 수 있다.
• RD-RSA는 인간 데이터에서 RSA와 비슷한 예측 정확도를 보이면서도 RSA가 비정보적 무작위 발화 생산에 갖는 편향을 피한다.
• 참고게임 데이터셋과의 실증적 비교는 초기 재귀에서 RSA와 RD-RSA가 문자 그대로의 청자 대비 예측을 개선하고, 더 큰 깊이에서 성능이 평준화되거나 감소하는 경향을 보임을 시사한다.