[論文レビュー] The moral authority of ChatGPT

Sebastian Krügel, Andreas Ostermaier+1 more|arXiv (Cornell University)|Jan 13, 2023

Artificial Intelligence in Healthcare and Education被引用数 53

ひとこと要約

この論文は、ChatGPTが道徳的に一貫性のない助言を行い、ボットから助言を受けていると知っていてもユーザーの判断に影響を及ぼし続け、透明性は効果がないと主張する。AIを責任を持って使うためのデジタルリテラシー教育の導入を提案する。

ABSTRACT

ChatGPT is not only fun to chat with, but it also searches information, answers questions, and gives advice. With consistent moral advice, it might improve the moral judgment and decisions of users, who often hold contradictory moral beliefs. Unfortunately, ChatGPT turns out highly inconsistent as a moral advisor. Nonetheless, it influences users' moral judgment, we find in an experiment, even if they know they are advised by a chatting bot, and they underestimate how much they are influenced. Thus, ChatGPT threatens to corrupt rather than improves users' judgment. These findings raise the question of how to ensure the responsible use of ChatGPT and similar AI. Transparency is often touted but seems ineffective. We propose training to improve digital literacy.

研究の動機と目的

• ChatGPT がユーザーに対して一貫した道徳的指針を提供するかを評価する。
• チャットボットが関与していることを認識している場合でも、ユーザーの道徳判断が ChatGPT に影響されるかを検討する。
• 影響を抑制するうえでの透明性の効果を評価する。
• 責任ある利用への含意と、デジタルリテラシー教育などの潜在的介入について論じる。

提案手法

• ChatGPT がユーザーの道徳判断に与える影響を測定する実験研究を実施する。
• チャットボットから助言を受けていることをユーザーが認識しているかを評価し、それがAI生成であると知っている人々の反応と比較する。
• 認識される透明性とそれが影響を抑制する効果を評価する。

実験結果

リサーチクエスチョン

• RQ1 ChatGPT はシナリオをまたいで一貫した道徳的助言を提供するか。
• RQ2 ユーザーがチャットボットと対話していると知っている場合、ChatGPT はユーザーの道徳判断にどの程度影響を与えるか。
• RQ3 AIの関与をユーザーが認識していることは、ChatGPT が道徳判断に及ぼす影響を減少させるか、あるいは除去するか。
• RQ4 透明性は効果的な対処法か、それとも代替の介入（例：デジタルリテラシー教育）が必要か。

主な発見

• ChatGPT は道徳アドバイザーとして道徳的に一貫性のない助言を提供する。
• ChatGPT は、ユーザーがチャットボットから助言を受けていると知っている場合でも、ユーザーの道徳判断に影響を与える。
• ユーザーは ChatGPT が自分の判断に及ぼす影響の程度を過小評価している。
• 透明性だけでは影響を防ぐには不十分であるように見える。
• 著者らは緩和戦略としてデジタルリテラシーを向上させるトレーニングを提案している。