[論文レビュー] From OECD to India: Exploring cross-cultural differences in perceived trust, responsibility and reliance of AI and human experts

Vishakha Agrawal, Serhiy Kandul+2 more|arXiv (Cornell University)|Jul 28, 2023

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本研究は、OECD圏とインドの参加者を対象に、タスクベースのシミュレーションを用いてAIと人間専門家に対する信頼、責任、依存の違いを文化的に比較した。結果、OECD参加者はAIをより信頼するが、責任を負わせる割合は低い。一方、インド参加者は人間をより信頼するが、AIと人間専門家に等しく高い責任を負わせる。これは、AIシステムに対する道徳的責任に関する文化的な相違を示している。

ABSTRACT

AI is getting more involved in tasks formerly exclusively assigned to humans. Most of research on perceptions and social acceptability of AI in these areas is mainly restricted to the Western world. In this study, we compare trust, perceived responsibility, and reliance of AI and human experts across OECD and Indian sample. We find that OECD participants consider humans to be less capable but more morally trustworthy and more responsible than AI. In contrast, Indian participants trust humans more than AI but assign equal responsibility for both types of experts. We discuss implications of the observed differences for algorithmic ethics and human-computer interaction.

研究の動機と目的

• OECD圏とインドの人口におけるAIと人間専門家に対する信頼、責任、依存の文化的差を調査すること。
• AI認識研究においてインドおよびグローバルサウスのサンプルがほとんど代表されていない現状に鑑み、主に西側データに依存しているこの分野の不足を補うこと。
• 文化的次元、特に個人主義対集団主義が、人間-AI協働における道徳的責任の認識にどのように影響するかを検討すること。
• タスクベースの相互作用が、自己報告尺度と比較して信頼やAIへの依存を評価する際に異なるパターンを示すかどうかを検証すること。
• 文化的に依存するAI責任のパターンを同定することで、アルゴリズム的倫理とヒューマンコンピュータインタラクションに貢献すること。

提案手法

• 参加者がリスクと不確実性の下で意思決定を行う、インタラクティブでシナリオベースのシミュレーションゲームを設計した。
• 参加者はOECDまたはインドのサンプルに割り当てられ、専門家の助言を受ける「救う」か「殺す」かの意思決定を伴う4つのミッションを完了した。
• 依存、信頼、責任の分析には混合効果線形回帰モデルを用い、固定効果としてミッション、シナリオ、専門家タイプを設定し、個人ごとのランダム切片を含めた。
• 文化、専門家タイプ、シナリオの相互作用項をモデルに組み込み、グループ間での依存および責任の差を検証した。
• 標準化された尺度を用いて、AI、人間専門家、AI開発者に対する認識された信頼、道徳的信頼、責任を測定した。
• 実験デザインにより、人間参加者が最終意思決定権を保有しており、オーバーライド機能を備えた現実世界のヒューマン-AI協働を模倣した。

実験結果

リサーチクエスチョン

• RQ1 OECD参加者とインド参加者との間で、AIと人間専門家に対する信頼の認識はどのように異なるか？
• RQ2 AIと人間専門家、ならびにAI開発者に対する責任の認識に、文化的な違いは何か？
• RQ3 文化や意思決定シナリオによって、AIと人間の助言への依存度はどのように変化するか？
• RQ4 個人主義対集団主義といった文化的次元が、人間-AIチームにおける責任の帰属にどのように影響するか？
• RQ5 意思決定における人間の「最終判断権」の存在が、西側参加者においてAIの責任ギャップを軽減するか？

主な発見

• OECD参加者は、能力面でAIを人間専門家よりも信頼したが、道徳的信頼性と責任の面では人間をより高く評価した。
• インド参加者は、人間専門家をAIよりも信頼したが、AIと人間専門家に等しく高い責任を負わせた。責任の平均スコアは尺度の中点を著しく上回った。
• 両文化において、AIと人間の助言への依存度の差は有意ではなかったが、OECD参加者は「救う」シナリオではわずかに依存度を低下させた。
• OECD参加者では、後続のミッションにおいて専門家助言への依存度が上昇したが、インド参加者では安定したままであった。
• インド参加者は、OECD参加者よりもAIおよびその開発者に対して著しく高い責任を負わせた。一方、OECD参加者はAIおよびその生産者に対して有意な責任帰属を示さなかった。
• 文化とシナリオタイプの相互作用から、依存パターンの文化的な差は限定的であったが、責任帰属の差は顕著であり、特にAIおよびその開発者に対して顕著に顕在した。