[論文レビュー] Identifying Ethical Issues in AI Partners in Human-AI Co-Creation

Jeba Rezwana, Mary Lou Maher|arXiv (Cornell University)|Apr 15, 2022

Ethics and Social Impacts of AI被引用数 11

ひとこと要約

本論文は、人間とAIの共同創造における倫理的問題を、AIが人間へと通信することでユーザーの認識と協働がどのように向上するかを調査することによって検討している。38名の参加者を対象としたユーザー研究と参加型デザイン・フィクションを用い、双方向の通信が、知能、信頼性、関与度の認識を顕著に向上させることを明らかにした。これにより、人間らしく振る舞う特性を示す共同創造用AIにおける倫理的フレームワークの必要性が浮き彫りになった。

ABSTRACT

Human-AI co-creativity involves humans and AI collaborating on a shared creative product as partners. In many existing co-creative systems, users communicate with the AI using buttons or sliders. However, typically, the AI in co-creative systems cannot communicate back to humans, limiting their potential to be perceived as partners. This paper starts with an overview of a comparative study with 38 participants to explore the impact of AI-to-human communication on user perception and engagement in co-creative systems and the results show improved collaborative experience and user engagement with the system incorporating AI-to-human communication. The results also demonstrate that users perceive co-creative AI as more reliable, personal and intelligent when it can communicate with the users. The results indicate a need to identify potential ethical issues from an engaging communicating co-creative AI. Later in the paper, we present some potential ethical issues in human-AI co-creation and propose to use participatory design fiction as the research methodology to investigate the ethical issues associated with a co-creative AI that communicates with users.

研究の動機と目的

• 人間-AI共同創造における、AIが人間へと通信することでユーザーの認識、関与度、協働体験に与える影響を調査すること。
• 人間らしく通信・行動を示す共同創造用AIシステムに生じる倫理的問題を特定すること。
• 参加型デザイン・フィクションを、将来の共同創造用AIに関するユーザーの価値観、懸念、期待を明らかにするための手法として探求すること。
• AIが協力的パートナーとして能動的に通信するシステムに焦点を当てることで、人間-AI共同創造における倫理的側面に関する研究のギャップを埋めること。

提案手法

• 38名の参加者を対象に、被験内デザインのユーザー研究を実施。高忠実度の2つのプロトタイプを用いた：一方は人間からAIへの単方向のインタラクション（ボタン/スライダー）のみ、もう一方は双方向通信（音声、テキスト、AIアバター）を備えたもの。
• 各参加者がランダムな順序で両方のプロトタイプを体験するように、順序効果を最小限に抑えるための反復順序設計を採用。
• 協働スコアを測定するためのアンケートによる定量的データと、ユーザーの認識と体験を評価するための半構造化インタビューによる定性的データを収集。
• インタビューのトランスクリプトに対して主題分析を適用し、AIの通信と認識された協働関係に関するユーザーの反応のパターンを特定。
• 文献に由来する既存のデザイン・フィクションを改変し、未来の共同創造用AIの物語的または動画ベースのシナリオを構築。参加型手法を用いて、ユーザーの価値観と倫理的懸念を引き出す。
• デザイン・フィクションを参加型研究ツールとして用い、共同創造におけるAIパートナーに関連するユーザーの期待と倫理的ジレンマを探る。

実験結果

リサーチクエスチョン

• RQ1 AIが人間へと通信することで、共同創造用AIの知能、信頼性、パーソナライゼーションに関するユーザーの認識にどのような影響を与えるか？
• RQ2 二方向通信が、人間-AI共同創造におけるユーザーの関与度と協働体験に与える影響は何か？
• RQ3 共同創造用AIが人間らしく通信および感情的行動を示す場合に、どのような倫理的問題が生じるか？
• RQ4 参加型デザイン・フィクションは、将来の共同創造用AIシステムに関するユーザーの価値観と倫理的懸念を効果的に明らかにできるか？

主な発見

• AIが人間へと通信する状況では、p値0.002の有意差を示すなど、協働スコアが顕著に向上した。これは、ベースラインと比較して統計的に有意な差であることを示している。
• 38名中30名の参加者が、双方向フィードバックと表現的な行動のおかげで、通信するAIがより協働的パートナーのように感じられたと報告した。
• 特に音声、テキスト、表現的なアバターを用いた場合、ユーザーは通信するAIをより知的で信頼性が高く、パーソナライズされたものと認識した。
• AIがユーザーと通信することで、ユーザーはより高い関与度と持続的な注意を示した。インタラクション中に「他者」としての意識があると感じ取ったと報告した。
• AIアバターの感情的行動（例：アイデアが拒否されたときに悲しそうに見える、称賛されたときに喜びを表す）は広く評価され、共感の認識に寄与した。
• 本研究では、人間ユーザーと通信する共同創造用AIにおいて、自律性、感情的操作、ユーザー依存性といった点で、事前に倫理的問題を特定する必要があることが明らかになった。