[論文レビュー] Thinking Assistants: LLM-Based Conversational Assistants that Help Users Think By Asking rather than Answering

Soya Park, Subramonyam, Hari+1 more|arXiv (Cornell University)|Dec 10, 2023

AI in Service Interactions被引用数 4

ひとこと要約

本論文では、直接的な回答を提供するのではなく、鋭い質問を投げかけることでユーザーの深い自己観察を促す、LLMを活用した会話型アシスタント「Thinking Assistants」を紹介する。このシステム、*\Sys* は、研究関心の明確化を支援するパーソナライズされたメンタリング風の対話を通じて、将来の大学院生を支援する。研究関心についての対話では、教授に関する質問よりも2倍以上長い時間の関与が得られ、ユーザー満足度は65%に達した。

ABSTRACT

Many AI systems focus solely on providing solutions or explaining outcomes. However, complex tasks like research and strategic thinking often benefit from a more comprehensive approach to augmenting the thinking process rather than passively getting information. We introduce the concept of "Thinking Assistant", a new genre of assistants that help users improve decision-making with a combination of asking reflection questions based on expert knowledge. Through our lab study (N=80), these Large Language Model (LLM) based Thinking Assistants were better able to guide users to make important decisions, compared with conversational agents that only asked questions, provided advice, or neither. Based on the results, we develop a Thinking Assistant in academic career development, determining research trajectory or developing one's unique research identity, which requires deliberation, reflection and experts' advice accordingly. In a longitudinal deployment with 223 conversations, participants responded positively to approximately 65% of the responses. Our work proposes directions for developing more effective LLM agents. Rather than adhering to the prevailing authoritative approach of generating definitive answers, LLM agents aimed at assisting with cognitive enhancement should prioritize fostering reflection. They should initially provide responses designed to prompt thoughtful consideration through inquiring, followed by offering advice only after gaining a deeper understanding of the user's context and needs.

研究の動機と目的

• 大学院進学応募のような高リスクな意思決定において、メンタリングが利用できないか、あるいは心理的負担が大きいという課題に取り組むこと。
• 特に不確実性やアイデンティティ形成の段階にある意思決定において、情報提供から自己観察の対話へとシフトさせることで、ユーザーの意思決定におけるいらだちを軽減すること。
• 積極的な関与と賢明なフィードバックを通じて、研究関心へのコミットメントを育む会話型アシスタントを設計すること。
• 学術的意思決定の文脈において、思考支援型モデルが、従来のQ&Aベースのチャットボットと比較してユーザーの関与度と満足度を向上させるかどうかを評価すること。
• 特に応募可否の可能性についての明確な答え（「はい」または「いいえ」）を求めるユーザーの期待と、自己観察を重視するアシスタントの設計との間に生じる葛藤を明らかにすること。

提案手法

• システム *\Sys* は、参加したHCI分野の教授から収集されたデータ（研究の進化、メンタリングスタイル、重要な資質など）を微調整したGPT-4を活用している。
• 2つのモードで動作する：『プローブモード』（思考を深めるための質問を投げかける）、および『回答モード』（教授に関する事実情報を提供する）。
• 対話の多くが、次の質問を提示することで終わる動的応答戦略を採用しており、対話を維持し、自己観察を促進する。
• 二次的なセーフティボットが、論文やプログラム詳細に関する事実を検証し、誤情報の発生を防ぐ。
• 教授たちの専門分野やメンタリングアプローチを的確に反映させるために、教授たちと段階的に共同設計と検証を実施した。
• 223件の対話ログが記録され、関与度、満足度、応答パターンの分析が行われた。

Figure 1. \Sys is a thinking assistant that helps prospective graduate students reflect on research interests. Based on the user’s question, the assistant chooses between a ‘probing’ mode, understanding user interests and prompting reflection, and an ‘answering’ mode that offers with relevant inform

実験結果

リサーチクエスチョン

• RQ1 自己観察を重視する質問中心の思考支援型アシスタントが、大学院進学応募の文脈におけるユーザーの関与度と満足度にどのように影響するか？
• RQ2 大学院進学応募のような高リスクな意思決定において、ユーザーはどの程度、直接的な回答よりも自己観察の対話を好むか？
• RQ3 研究関心の個人的開示が、思考支援型アシスタントとの対話の質と深さにどのように影響するか？
• RQ4 ユーザーが明確な答え（例：『私は受かるでしょうか？』）を求める際、思考支援型アシスタントの限界は何か？
• RQ5 自己観察の支援と事実情報の取得の両立を図る際、ユーザーの信頼を損なわずにバランスを取るにはどうすればよいか？

主な発見

• ユーザーは回答に対して65%の満足度を示し、教授に関する質問よりも自分の研究関心について話している際の関与度が著しく高かった。
• 研究関心の個人的開示を含む対話は1回あたり平均6メッセージに達し、対話の深さがうかがえる一方、情報中心の問い合わせは短く、満足度も低かった。
• 明確な答え（例：『私は受かるでしょうか？』）を求めたユーザーは、自己観察モードに不満を示し、ユーザーの期待とアシスタントの設計との間で不一致が生じた。
• 公開情報が既に存在するにもかかわらず、論文の推薦のような基本的な事実の取得でさえも、ユーザーに価値あるものと感じられ、キュレートされた情報のアクセシビリティの価値を示した。
• セーフティボットは、事実誤認を的確に是正し、LLMベースのアシスタントにおいて検証レイヤーの重要性を実証した。
• 二段階モード（プローブ vs. 回答）の設計により柔軟性が得られたが、ユーザーはアシスタントが情報提供よりも自己観察を重視する際の切り替えに適応できなかった。

Figure 2. \Sys interface. Left: Before a user initiates conversation, it shows description of the chatbot. In the interface, we suggest users starting by sharing about their research interest. Right: The chatbot primarily focuses on asking thought-provoking questions and probing users’ research inte