[論文レビュー] Investigating Agency of LLMs in Human-AI Collaboration Tasks

Ashish Sharma, Sudha Rao+4 more|arXiv (Cornell University)|May 22, 2023

Speech and dialogue systems被引用数 4

ひとこと要約

この論文は、社会認知理論を基盤として、人間-AI協働における大規模言語モデル（LLM）の自律性を測定・制御するフレームワークを提案する。4つの自律性特徴（意図性、動機付け、自己効力感、自己調整）を同定し、それらの特徴を注釈した83件のヒューマン・ツー・ヒューマンのインテリアデザイン対話（908スニペット）から成る新規データセットを提供する。結果として、これらの特徴を高水準で示すモデルは、自動評価および人間評価の両方で顕著に自律性が高いと認識されることが示された。

ABSTRACT

Agency, the capacity to proactively shape events, is central to how humans interact and collaborate. While LLMs are being developed to simulate human behavior and serve as human-like agents, little attention has been given to the Agency that these models should possess in order to proactively manage the direction of interaction and collaboration. In this paper, we investigate Agency as a desirable function of LLMs, and how it can be measured and managed. We build on social-cognitive theory to develop a framework of features through which Agency is expressed in dialogue - indicating what you intend to do (Intentionality), motivating your intentions (Motivation), having self-belief in intentions (Self-Efficacy), and being able to self-adjust (Self-Regulation). We collect a new dataset of 83 human-human collaborative interior design conversations containing 908 conversational snippets annotated for Agency features. Using this dataset, we develop methods for measuring Agency of LLMs. Automatic and human evaluations show that models that manifest features associated with high Intentionality, Motivation, Self-Efficacy, and Self-Regulation are more likely to be perceived as strongly agentive.

研究の動機と目的

• 人間-AI協働におけるLLMの自律性がどのように意味的に表現され、測定できるかを調査すること。
• 社会認知理論に基づく理論的根拠に基づいた自律性特徴のフレームワークを構築すること。
• 自律性分析のための、ヒューマン・ツー・ヒューマンの共同インテリアデザイン対話から成る新規データセットを収集・注釈すること。
• LLMが自律性特徴をどの程度うまく表現できるか、およびその表現が認識される自律性にどのように影響するかを評価すること。
• 対話システムにおける自律性レベルの制御と測定を可能にし、人間-AI協働を向上させること。

提案手法

• バンデューラの社会認知理論を採用し、自律性の4つの核心的特徴（意図性：好みの表明、動機付け：意図の正当化、自己効力感：判断に対する信念の主張、自己調整：フィードバックに基づく適応）を定義する。
• 83件のヒューマン・ツー・ヒューマンの共同インテリアデザイン対話を収集し、合計908スニペットの対話断片を、4つの自律性特徴ごとに注釈づけた。
• 微調整されたLLMを用いて、対話の各ターンから自律性特徴の表現を予測する自動測定手法を開発した。
• 2つの新しい評価タスクを導入した：(1) 対話における自律性の測定、(2) 自律性を含む対話の生成、これによりモデルのパフォーマンスを評価した。
• 自動測定の妥当性を検証し、異なる自律性特徴レベルにおける認識される自律性を評価するために、人間による評価を実施した。
• 自動指標と人間の判断の両方を用いてフレームワークを評価した。その結果、表現された自律性特徴と認識される自律性の間に強い相関が確認された。

実験結果

リサーチクエスチョン

• RQ1 対話ベースの人工知能協働において、LLMの自律性を体系的に定義・測定する方法は何か？
• RQ2 意図性、動機付け、自己効力感、自己調整の表現が、LLMの認識される自律性にどの程度影響を与えるか？
• RQ3 自動手法は、会話断片における自律性特徴を信頼性高く検出・定量できるか？
• RQ4 自律性表現の異なる水準が、人間がLLMを能動的な協働者としてどのように認識するかにどのように影響するか？
• RQ5 文脈やユーザーの好みに応じて、自律性を動的に調整できる対話システムを設計できるか？

主な発見

• 意図性、動機付け、自己効力感、自己調整を高水準で示すモデルは、自動評価および人間評価の両方で一貫してより自律性が高いと認識された。
• 意図性が、共同対話における認識される自律性の最も強い予測要因であることが判明し、全体的な自律性認識に顕著な影響を与えた。
• 人間評価により、自己信念（自己効力感）や適応的行動（自己調整）といった自律性特徴が、LLMの能動的行動としての認識に有意義に寄与することが確認された。
• 提案された自動測定手法は人間の判断と強く一致しており、スケーラブルな自律性評価の可能性を示した。
• データセットとフレームワークは、インテリアデザインを越えて応用可能であり、『私は〜を好む』といった表現はドメインに依存せず、一般化可能である。
• 本研究は、LLMにおける自律性が受動的な特徴ではなく、能動的に制御・調整可能であり、人間-AI協働の質を向上させられることを示した。