[論文レビュー] Assessing the impact of machine intelligence on human behaviour: an interdisciplinary endeavour

Emília Gómez, Carlos D. Castillo+24 more|arXiv (Cornell University)|Jun 7, 2018

Explainable Artificial Intelligence (XAI)参考文献 3被引用数 6

ひとこと要約

本論文は、人工知能の行動的影響を理解するための国際的専門家の協働を促進したHUMAINT 2018ワークショップの成果を報告する。特に認知、意思決定、社会的影響の分野において、機械知能が人間の行動に与える影響を評価する。研究上の課題、評価ニーズ、規制戦略を特定し、分野を越えた統合的枠組みを提案する。

ABSTRACT

This document contains the outcome of the first Human behaviour and machine intelligence (HUMAINT) workshop that took place 5-6 March 2018 in Barcelona, Spain. The workshop was organized in the context of a new research programme at the Centre for Advanced Studies, Joint Research Centre of the European Commission, which focuses on studying the potential impact of artificial intelligence on human behaviour. The workshop gathered an interdisciplinary group of experts to establish the state of the art research in the field and a list of future research challenges to be addressed on the topic of human and machine intelligence, algorithm's potential impact on human cognitive capabilities and decision making, and evaluation and regulation needs. The document is made of short position statements and identification of challenges provided by each expert, and incorporates the result of the discussions carried out during the workshop. In the conclusion section, we provide a list of emerging research topics and strategies to be addressed in the near future.

研究の動機と目的

• 機械知能が人間の認知プロセスおよび意思決定行動に与える多面的影響を評価すること。
• AIシステムが社会的・心理的・倫理的次元において人間行動をどのように変容させるかを理解するうえでの、重要な研究ギャップと課題を同定すること。
• AIの評価、規制、人間とAIの相互作用に関する今後の多分野的研究の基盤を構築すること。
• AI、認知科学、倫理、ヒューマンコンピュータインタラクション分野の専門家間の協力を促進し、新たな社会的課題に対処すること。
• 現実の行動的文脈におけるAIシステムの評価と統制を実行可能にする研究戦略を開発すること。

提案手法

• AI、認知科学、倫理、ヒューマンコンピュータインタラクション分野の専門家26名による多分野的ワークショップを実施した。
• 分野専門家から寄せられた立場表明と研究課題を収集し、現在の知識状況をマッピングした。
• 議論の成果を統合し、新たな研究テーマと方法論的ニーズを同定した。
• 分野横断的連携と倫理的配慮を組み合わせた枠組みを提案し、AIの行動的影響を評価する手法を提示した。
• 人間行動に影響を与えるAIシステムの評価指標と規制ルートを特定することに焦点を当てた。
• 心理学、AI、ヒューマンコンピュータインタラクションの多様な視点からの知見を統合し、今後の人間-AI相互作用と社会的影響に関する研究を導く。

実験結果

リサーチクエスチョン

• RQ1 機械知能は、注意、記憶、推論といった人間の認知能力にどのように影響を与えるか？
• RQ2 日常的文脈におけるAIシステムとの長期間の相互作用が、心理的および行動的要因に与える影響は何か？
• RQ3 AIシステムの意思決定および社会的行動に与える社会的影響をどのように評価できるか？
• RQ4 責任あるAIの開発と展開を確保するためには、どのような規制および倫理的枠組みが必要か？
• RQ5 AIの長期的行動的影響を研究するうえで、最も効果的な多分野的研究戦略は何か？

主な発見

• ワークショップでは、認知的・社会的・倫理的次元におけるAIの行動的影響を理解するための多分野的研究の必要性が顕在化した。
• AIシステムの行動的影響に対する標準化された評価手法の開発が急務であるという合意が高まっている。
• 専門家らは、注意の操作、批判的思考の低下、意思決定におけるアルゴリズムバイアスといったリスクを指摘した。
• 透明性と説明責任を確保するため、規制的・倫理的監視メカニズムの構築が不可欠であるとされた。
• 責任あるAIシステムの設計には、心理学、AI、ヒューマンコンピュータインタラクション分野からの知見統合が不可欠である。
• 今後の研究のためのロードマップが策定され、協働、評価フレームワーク、政策関連研究の強化が強調された。