[論文レビュー] Should We Respect LLMs? A Cross-Lingual Study on the Influence of Prompt Politeness on LLM Performance

Ziqi Yin, Hao Wang+3 more|arXiv (Cornell University)|Feb 22, 2024

Artificial Intelligence in Law被引用数 9

ひとこと要約

本論文は、英語、中国語、日本語のタスクにおけるプロンプトの丁寧さがLLMの性能に与える影響を調査し、過度に丁寧なプロンプトが必ずしもより良い結果を保証せず、最適な丁寧さのレベルは言語によって異なることを示している。

ABSTRACT

We investigate the impact of politeness levels in prompts on the performance of large language models (LLMs). Polite language in human communications often garners more compliance and effectiveness, while rudeness can cause aversion, impacting response quality. We consider that LLMs mirror human communication traits, suggesting they align with human cultural norms. We assess the impact of politeness in prompts on LLMs across English, Chinese, and Japanese tasks. We observed that impolite prompts often result in poor performance, but overly polite language does not guarantee better outcomes. The best politeness level is different according to the language. This phenomenon suggests that LLMs not only reflect human behavior but are also influenced by language, particularly in different cultural contexts. Our findings highlight the need to factor in politeness for cross-cultural natural language processing and LLM usage.

研究の動機と目的

• LLMsがプロンプトにおける人間の丁寧さ規範を反映しているかを調査する動機づけ。
• 複数言語にわたってプロンプトの丁寧さのレベルがLLMの性能に与える影響を調べる。
• 過度に丁寧なプロンプトが性能を向上させるか低下させるか、最適な丁寧さが言語依存であるかを特定する。

提案手法

• 英語、中国語、日本語の丁寧さレベルを変えたプロンプトに対するLLMの応答を評価する跨言語実験を実施する。
• 無礼なプロンプトが結果を低下させるか、過度の丁寧さが有益かを判断するために性能差を分析する。
• NLPにおけるプロンプティングの文化的・跨言語的含意について議論するために知見を統合する。

実験結果

リサーチクエスチョン

• RQ1 プロンプトの丁寧さは、言語を問わずLLMの性能に影響を与えるか（英語、中国語、日本語）？
• RQ2 最適な丁寧さのレベルは存在するか、言語や文化によって異なるか？
• RQ3 無礼なプロンプトは、丁寧なプロンプトと比較して一貫して性能を低下させるか？
• RQ4 多言語NLPタスクにおけるプロンプトの跨文化的含意は何か？

主な発見

• 無礼なプロンプトはしばしばLLMの性能を低下させる。
• 過度に丁寧なプロンプトは必ずしも結果の改善を保証しない。
• 最適な丁寧さのレベルは言語によって異なり、LLMの挙動に言語固有の文化的影響があることを示唆する。