[論文レビュー] Intensional Artificial Intelligence: From Symbol Emergence to Explainable and Empathetic AI

Michael Timothy Bennett, Yoshihiro Maruyama|arXiv (Cornell University)|Apr 23, 2021

Cognitive Science and Education Research参考文献 25被引用数 13

ひとこと要約

本論文は、目的（意図的解決）を学ぶことで、出力の正しさ（拡張的解決）だけではなく、説明可能で共感的なAIを実現する、意図的AI（Intensional AI）というフレームワークを提案する。意味を知覚的記号と意図に根ざさせることで、エージェントは人間の目的を推論し、自然言語で根拠を説明できる。記号はミラーニューロンのように機能し、共感と理解を支援する。

ABSTRACT

We argue that an explainable artificial intelligence must possess a rationale for its decisions, be able to infer the purpose of observed behaviour, and be able to explain its decisions in the context of what its audience understands and intends. To address these issues we present four novel contributions. Firstly, we define an arbitrary task in terms of perceptual states, and discuss two extremes of a domain of possible solutions. Secondly, we define the intensional solution. Optimal by some definitions of intelligence, it describes the purpose of a task. An agent possessed of it has a rationale for its decisions in terms of that purpose, expressed in a perceptual symbol system grounded in hardware. Thirdly, to communicate that rationale requires natural language, a means of encoding and decoding perceptual states. We propose a theory of meaning in which, to acquire language, an agent should model the world a language describes rather than the language itself. If the utterances of humans are of predictive value to the agent's goals, then the agent will imbue those utterances with meaning in terms of its own goals and perceptual states. In the context of Peircean semiotics, a community of agents must share rough approximations of signs, referents and interpretants in order to communicate. Meaning exists only in the context of intent, so to communicate with humans an agent must have comparable experiences and goals. An agent that learns intensional solutions, compelled by objective functions somewhat analogous to human motivators such as hunger and pain, may be capable of explaining its rationale not just in terms of its own intent, but in terms of what its audience understands and intends. It forms some approximation of the perceptual states of humans.

研究の動機と目的

• ブラックボックスAIモデルにおける説明可能性の欠如に応えるために、目的と意図に基づく根拠フレームワークを導入する。
• GPT-3のような相関に基づくモデルの限界を克服し、エージェントが「何をしているか」ではなく「なぜそうするのか」を理解できるようにする。
• 言語の獲得が文法的パターンではなく、目的に一致する世界のモデル化から生じる意味の理論を構築する。
• 共有される知覚的状態と目的をモデル化することで、エージェントが人間の意図と理解に基づき、意味的に通信できるようにする。
• 人間らしい動機（例：痛み、空腹）に従って学ばれた記号は、ミラーニューロンのように機能し、共感と社会的理解を可能にするという仮説を提示する。

提案手法

• 任意のタスクを知覚的状態に基づいて定義し、出力の正しさ（拡張的解決）と目的に基づく解決（意図的解決）を区別する。
• ハードウェアと知覚的記号システムに根ざした、目的に基づく意思決定の根拠としての意図的解決を形式化する。
• 言語の獲得が言語そのものではなく、人間の発話が示す世界のモデル化から生じるという意味の理論を提唱する。
• ペイリーの記号学を用いて、通信をエージェント間での標識、対象、解釈者に関する近似的な共有としてフレーム化する。
• ミラーシンボル仮説を提唱：人間らしい動機（例：痛み、空腹）に従って学ばれた記号は、ミラーニューロンのように機能し、共感を可能にする。
• 説明可能性と計算の妥当性の両立を図るため、意図的解決とヒューリスティック近似（例：関数フィッティング）を組み合わせ、AlphaGoの設計と同様の手法を採用する。

実験結果

リサーチクエスチョン

• RQ1 AIシステムが相関関係を越えて、真の根拠を持つ意思決定をどのように持てるか？
• RQ2 どのようなメカニズムがエージェントに、観察された行動の目的を推論し、人間の理解の文脈で意思決定を説明できるようにするか？
• RQ3 言語の意味が文法的パターンではなく、目的指向の知覚と意図からどのように生じるか？
• RQ4 AIエージェントが人間の意図と知覚的状態をどれほどよくモデル化できるか、それが意味的な通信を可能にするのか？
• RQ5 意図的学習によって学ばれた記号は、ミラーニューロンに類似した挙動を示し、人工エージェントに共感を可能にするか？

主な発見

• 意図的解決は、目的に基づく根拠を提供し、ブラックボックスモデルが失敗する場面で説明可能性を実現する。
• 意図的解決は、より強い制約よりも少ない例数で学習可能であるため、任意のタスクの学習において最適である。
• 意味は言語そのものからではなく、エージェントが人間の発話と目的を一致させることによって生じ、知覚的・意図的状態に根ざす。
• 意図的解決を学ぶエージェントは、意味論と意図に基づき、聴衆の理解に合わせて説明を調整して通信できる。
• 意図的解決の一部として学ばれた記号は、ミラーニューロンのように機能し、AIにおける共感のメカニズムを示唆する。
• このフレームワークは、AlphaGoが説明可能性を欠いていた理由を説明する：目的に基づく根拠がなく、ヒューリスティック（拡張的解決）に依存していたためである。