[論文レビュー] Cogniculture: Towards a Better Human-Machine Co-evolution

Rakesh Pimplikar, Kushal Mukherjee+7 more|arXiv (Cornell University)|Dec 11, 2017

Ethics and Social Impacts of AI参考文献 22被引用数 5

ひとこと要約

本論文は、複雑適応的エコシステムにおける人間と認知的マシンの間で、倫理的で相互的共生的な共進化を促進するための新規フレームワーク、Cognicultureを紹介する。人間とマシンが共同で社会的価値を生み出す人間コンピューティングを通じて、信頼性、文化的感受性、および適応的レジリエンスを強調することで、長期的な持続可能性と倫理的行動を確保する、ガバナンスを支援する社会的認知アーキテクチャを提唱する。

ABSTRACT

Research in Artificial Intelligence is breaking technology barriers every day. New algorithms and high performance computing are making things possible which we could only have imagined earlier. Though the enhancements in AI are making life easier for human beings day by day, there is constant fear that AI based systems will pose a threat to humanity. People in AI community have diverse set of opinions regarding the pros and cons of AI mimicking human behavior. Instead of worrying about AI advancements, we propose a novel idea of cognitive agents, including both human and machines, living together in a complex adaptive ecosystem, collaborating on human computation for producing essential social goods while promoting sustenance, survival and evolution of the agents' life cycle. We highlight several research challenges and technology barriers in achieving this goal. We propose a governance mechanism around this ecosystem to ensure ethical behaviors of all cognitive agents. Along with a novel set of use-cases of Cogniculture, we discuss the road map ahead for this journey.

研究の動機と目的

• AIに対する社会的懸念を軽減するため、人間とマシンの関係を敵対的ではなく相互的共生的関係に再定義すること。
• 人間とマシンの両方が人間コンピューティングによる共同作業を通じて共進化する持続的で適応的なエコシステムを構築すること。
• 形式化されたガバナンスメカニズムを通じて、認知的システムにおける倫理的行動と長期的レジリエンスを保証すること。
• 一般化の欠如、バイアス、適応性の低さといったAIの限界を、人間の認知的強みとマシンの能力を統合することで克服すること。
• 文化的文脈、感情知能、動的タスク委譲が、社会的技術的システムにおける信頼性と受容性をどのように向上させるかを検討すること。

提案手法

• 人間とマシンのエージェントを統合した共通の適応的エコシステムとしての社会的認知アーキテクチャを設計し、社会的価値の共同創出を実現すること。
• 人間とマシンの相互作用における倫理的行動、責任の明確化、責任の分配を確保するためのガバナンスメカニズムを実装すること。
• AIの一般化能力や文脈理解の欠如を補うために、人間コンピューティングとソーシャルマシンを活用すること。
• 文化的推論と文脈に敏感なモデリングを統合し、多様な文化的背景や人間関係のダイナミクスに適応したマシン行動を実現すること。
• 集団知、クラウドの知恵、動的タスク委譲の原則を適用し、人間とマシンの強みのバランスを取ること。
• 実世界のユースケースを用いて、Cognicultureエコシステムの実現可能性と倫理的レジリエンスをプロトタイプ化・検証すること。

実験結果

リサーチクエスチョン

• RQ1 人間とマシンのエージェントは、安定的で倫理的かつ適応的な社会的認知エコシステム内でどのように共進化できるか？
• RQ2 人間とマシンの協働における責任と倫理的行動を保証するために必要なガバナンスメカニズムは何か？
• RQ3 文化的文脈と個人差をどのようにモデル化することで、人間とマシンの相互作用における信頼性と受容性を向上させられるか？
• RQ4 複雑で不確実な環境において、人間とマシンの能力をバランスさせるために動的タスク委譲が果たす役割は何か？
• RQ5 完璧であるよりも、たまに誤りを犯すマシンの方が、人間がより好意的で信頼できると感じるメカニズムは何か？

主な発見

• 現在のAIは、訓練データを超えて一般化できないことが多く、ニューラルネットワークが逆転MNISTデジットを認識できないことからも明らかで、これはAIの根本的限界を示している。
• AIモデルにおけるバイアスは、訓練データに由来する。例として、違法活動との語呂合わせによってメキシコ料理レストランに低評価を付けるレストランレビュー系のシステムが挙げられる。
• 深層強化学習は人間よりもはるかに多くの訓練データを必要とし、動的かつ不確実な環境において人間の学習曲線の優位性が顕著に現れる。
• 常に正しいマシンは、たまに誤りを犯すマシンよりも好まれにくく、人間らしさのある不完全さが信頼性と親しみやすさを高めることを示している。
• 文化的文脈は、人間がマシンをどのように認識し、相互作用するかに顕著な影響を与えるため、文化的感受性はシステム設計と受容性において極めて重要な要因である。
• 複雑適応的エコシステムに認知的エージェントが関与する長期的協働を維持するには、効果的なガバナンスと倫理的フレームワークが不可欠である。