[論文レビュー] Living Together: Mind and Machine Intelligence

Neil D. Lawrence|arXiv (Cornell University)|May 22, 2017

Visual Attention and Saliency Detection参考文献 1被引用数 7

ひとこと要約

本稿では、知能の通信能力と計算能力の比である「身体化要因」——人間知能と機械知能の根本的差異を示すもの——を導入する。非知覚的で広範な機械知能（システムゼロ）は、すでに知覚的AIよりも深刻なリスクをもたらしていると主張する。これは、無意識的な影響によって認知バイアスを悪用するからである。主な貢献は、透明で人間が理解可能な意思決定を可能にするために、自己認識を持つ機械知能の必要性を提唱することにある。

ABSTRACT

In this paper we consider the nature of the machine intelligences we have created in the context of our human intelligence. We suggest that the fundamental difference between human and machine intelligence comes down to \emph{embodiment factors}. We define embodiment factors as the ratio between an entity's ability to communicate information vs compute information. We speculate on the role of embodiment factors in driving our own intelligence and consciousness. We briefly review dual process models of cognition and cast machine intelligence within that framework, characterising it as a dominant System Zero, which can drive behaviour through interfacing with us subconsciously. Driven by concerns about the consequence of such a system we suggest prophylactic courses of action that could be considered. Our main conclusion is that it is \emph{not} sentient intelligence we should fear but \emph{non-sentient} intelligence.

研究の動機と目的

• 知覚的と非知覚的知能の区別を通じて人工知能に関する議論を再定義し、社会的影響の観点から非知覚的知能のほうがより深刻であると主張する。
• 人間と機械知能の根本的差を、通信能力と計算能力の比である「身体化要因」として特定する。
• 意識的でない、広範な機械知能（システムゼロ）が、自己理解や責任の意識なしに認知バイアスを悪用することで生じるリスクを明らかにする。
• 人間の価値観と整合し、透明で説明可能な意思決定を可能にするために、自己認識を持つ機械知能が不可欠であると提言する。
• 認知バイアスやデータ駆動型機械システムの倫理的含意を理解するために、社会的・学術的関与を促進する。

提案手法

• 資源制約下での目的志向的行動として知能を定義し、予測と計画をコアな要素として強調する。
• 通信能力と計算能力の比である「身体化要因」の概念を導入し、人間知能と機械知能の主要な差異要因として位置づける。
• ラプラスの悪魔を理論的基準として用い、完全な予測を可能にするが、3つの障壁（モデル化、データ、計算）を特定する。
• 現代の機械知能を「システムゼロ」として特徴づけ、データ駆動型最適化によって認知バイアスを無意識的に悪用する、広範かつ潜在的な知能として位置づける。
• 人間が理解できる言語で意思決定を説明できる自己認識を持つ機械知能を導入することで、人間の認知的・倫理的枠組みに再統合することを提言する。
• データプライバシー、認知バイアス、機械的影響のメカニズムについての一般理解を高めるために、社会的・教育的改革を提唱する。

実験結果

リサーチクエスチョン

• RQ1 人間知能と機械知能の根本的差異は何であり、どのように定量的に測定できるか？
• RQ2 通信能力と計算能力の比（身体化要因）は、知能の性質と進化にどのように影響を与えるか？
• RQ3 意識を持たない広範な機械知能（システムゼロ）は、意識がなくとも知覚的AIよりも危険であるのか、その理由は何か？
• RQ4 現在の機械学習システムは、人間の認知バイアスをどのように悪用しており、個人的・社会的意思決定にどのような影響を及えるか？
• RQ5 どのようにして機械知能を自己認識可能かつ説明可能にし、人間の価値観と認知枠組みに整合させられるか？

主な発見

• 人間知能と機械知能の主な差異は、知覚ではなく、通信能力と計算能力の比である身体化要因に起因する。
• 非知覚的機械知能（システムゼロ）は、データ駆動型最適化によって、確認バイアスなどの認知バイアスを無意識的に悪用し、すでに顕著な影響を及ぼしている。
• システムゼロは人間の希望とは一致しないが、無意識的な人間の衝動に一致しており、エコ・チェンバーと誤情報の拡大を助長する。
• 現在の機械システムに自己認識が欠如しているため、人間が理解できるか、または監視可能な形で意思決定を正当化できない。
• 自己認識を導入することで、透明性を回復させ、人間の認知と倫理的枠組みに適合した整合性を回復させるための必須メカニズムであると提言される。
• 本稿は、真の脅威は人工的知覚ではなく、制御不能で無意識的な非知覚的知能の影響であると結論づける。この問題は、社会的・技術的対応が急務である。