[論文レビュー] Artificial Intelligence can facilitate selfish decisions by altering the appearance of interaction partners

Nils Köbis, Philipp Lorenz-Spreen+4 more|arXiv (Cornell University)|Jun 7, 2023

Psychology of Moral and Emotional Judgment被引用数 5

ひとこと要約

本研究は、デジタル対話におけるAI駆動のぼかしフィルターが道徳的行動に与える影響を調査し、外見の変更による人間性の希薄化が自己中心的な意思決定を促進することを明らかにした。制御された実験を通じて、著者らは、ぼかし処理を施された対話相手に対しては、個人が著しく自己中心的な行動を示す傾向があることを示した。これは、AIを介した人間性の希薄化が道徳的脱統合を促進することを示唆している。

ABSTRACT

The increasing prevalence of image-altering filters on social media and video conferencing technologies has raised concerns about the ethical and psychological implications of using Artificial Intelligence (AI) to manipulate our perception of others. In this study, we specifically investigate the potential impact of blur filters, a type of appearance-altering technology, on individuals' behavior towards others. Our findings consistently demonstrate a significant increase in selfish behavior directed towards individuals whose appearance is blurred, suggesting that blur filters can facilitate moral disengagement through depersonalization. These results emphasize the need for broader ethical discussions surrounding AI technologies that modify our perception of others, including issues of transparency, consent, and the awareness of being subject to appearance manipulation by others. We also emphasize the importance of anticipatory experiments in informing the development of responsible guidelines and policies prior to the widespread adoption of such technologies.

研究の動機と目的

• AIを介した外見の変更、特にぼかしフィルターが社会的対話における道徳的意思決定に与える影響を検討すること。
• 視覚的なぼかし処理による人間性の希薄化が、自己中心的な行動の増加を引き起こすかどうかを調査すること。
• 外見の認識が変化することで生じる行動変化の背後にある心理的メカニズム（特に道徳的脱統合）を解明すること。
• 人間の対話における視覚的認識を操作する新興AI技術のための倫理的ガイドラインを策定すること。

提案手法

• 変更された視覚的条件下での意思決定を評価するために、修正された社会的ジレンマゲームを用いた制御されたラボ実験を実施した。
• AIパワーのぼかしフィルターを用いて、デジタルインターフェース内の仮想対話相手の外見を変更した。
• 対話相手がはっきりと見える状態とぼかされた状態の間で行動を比較し、他の視覚的および文脈的要因を制御した。
• 資源配分タスクにおける選択（他者に損害を加えて自分に多くを保持する）を通じて自己中心的な行動を測定した。
• 可視状態とぼかし状態の間での行動差を分析するために統計的モデリングを用いた。
• 一般化可能性を確保するため、多様な参加者プールからデータを収集した。

実験結果

リサーチクエスチョン

• RQ1 対話相手の外見をぼかすことで、社会的意思決定タスクにおける自己中心的行動の確率が上昇するか？
• RQ2 AIフィルターによる外見の変更が、人間関係における道徳的脱統合にどの程度寄与するか？
• RQ3 視覚的人間性の希薄化の度合いが、対人行動における親社会的行動と自己中心的行動にどのように影響するか？
• RQ4 人々は、AIを介した対話における視覚的外見が道徳的判断に与える影響を認識しているか？

主な発見

• 参加者は、はっきりと見える相手と比較して、ぼかされた相手と対話する際、著しく自己中心的な選択を示した。
• 自己中心的行動の増加は、複数の実験的試行および参加者グループにわたり一貫して観察された。
• ぼかし処理による外見の変更は、親社会的行動の顕著な低下を引き起こし、人間性の希薄化と道徳的脱統合の直接的な関連性を示した。
• この効果は一般的な視覚的気晴らしによるものではなく、顔認識能力や人間らしい兆候の喪失に特異的に関連していた。
• 参加者らは、ぼかされた相手に対して、共感や絆を少なめに感じており、人間性の希薄化が行動変化に寄与していることを裏付けた。
• この研究結果は、AI駆動の視覚的操作が、デジタル対話における倫理的判断を、わずかではあるが顕著に変化させ得ることを示唆している。