[論文レビュー] Symbolic Behaviour in Artificial Intelligence

Adam Santoro, Andrew K. Lampinen+3 more|arXiv (Cornell University)|Feb 5, 2021

Language and cultural evolution参考文献 75被引用数 4

ひとこと要約

本稿では、AIにおける記号的流暢性（symbolic fluency）の評価を、記号的アーキテクチャそのものに限らず、人間の社会的・文化的相互作用に根ざした行動的基準によって行うべきだと提唱している。記号の意味を慣習的かつ解釈者依存的であるとみなすことにより、著者らは、新しい記号の構築、慣習の適応、意味の内省といった、段階的で測定可能な行動的指標を導入し、学習ベースのエージェントが、フィードバックを伴う豊かな相互作用的環境に没頭することで、スケーラブルなデータ収集を直接最適化することにより、人間と同等の記号的行動を達成できると主張している。

ABSTRACT

The ability to use symbols is the pinnacle of human intelligence, but has yet to be fully replicated in machines. Here we argue that the path towards symbolically fluent artificial intelligence (AI) begins with a reinterpretation of what symbols are, how they come to exist, and how a system behaves when it uses them. We begin by offering an interpretation of symbols as entities whose meaning is established by convention. But crucially, something is a symbol only for those who demonstrably and actively participate in this convention. We then outline how this interpretation thematically unifies the behavioural traits humans exhibit when they use symbols. This motivates our proposal that the field place a greater emphasis on symbolic behaviour rather than particular computational mechanisms inspired by more restrictive interpretations of symbols. Finally, we suggest that AI research explore social and cultural engagement as a tool to develop the cognitive machinery necessary for symbolic behaviour to emerge. This approach will allow for AI to interpret something as symbolic on its own rather than simply manipulate things that are only symbols to human onlookers, and thus will ultimately lead to AI with more human-like symbolic fluency.

研究の動機と目的

• 記号的知能をAIにおいて構造的性質として捉えるのでなく、社会的慣習に根ざした行動的能力として再定式化すること。
• 二値的記号使用評価の限界を克服し、記号的行動のための段階的で測定可能な基準を導入すること。
• 機械における記号的流暢性が、記号的アーキテクチャそのものから生じるのではなく、任意の意味についての協調を要する人間の社会的・文化的相互作用に没頭することで生じることを主張すること。
• 現代の学習ベースのAIが、相互作用的でフィードバック豊富かつ大規模なデータ収集を通じて、記号的行動を最適化できることを示すこと。

提案手法

• 記号を三項関係（基盤、指し示す対象、解釈者）として定義し、意味が合意された慣習から生じるとする。
• 記号的行動を、測定可能で段階的な特性の集合として位置づける：新しい慣習への受容性、新しい記号の構築、既存の記号の適応、意味および推論に関する内省。
• 記号的流暢性が記号的マシンそのものから生じるのではなく、任意の意味についての協調を要する社会的・文化的環境で学習するエージェントから生じると主張する。
• 人間の行動の包括的かつ相互作用的なデータセットを収集し、人間のフィードバックを統合することで、エージェントが記号的行動を示すように訓練することを提唱する。
• 現代の学習アルゴリズムを用いて、記号的流暢性を構造的性質ではなく行動的目標として直接最適化することで、エージェントを記号的行動に最適化する。
• 厳密な結合性や離散的表現を必要としないとし、連続的または分散表現であっても、慣習的に扱われれば記号的に機能しうると強調する。

実験結果

リサーチクエスチョン

• RQ1 AIにおける記号的行動を、単純な有無ではなく、段階的・非二値的にどのように測定できるか？
• RQ2 社会的・文化的相互作用と人間のフィードバックは、学習ベースのエージェントにおける記号的流暢性の実現にどのような役割を果たすか？
• RQ3 明示的な記号的アーキテクチャがなくても、行動的目標を直接最適化することで記号的行動を最適化できるか？
• RQ4 体系的性（systematicity）や構成的一般化（compositional generalization）は記号的行動にどの程度必要であり、実際にはどのように現れるか？
• RQ5 連続的または分散表現が、離散的でも局所的でもない場合に、どのように記号として機能できるか？

主な発見

• 記号的行動は二値的特性ではなく、新しい記号の構築、慣習の適応、意味の内省といった、段階的な熟達の集合である。
• 人間と同等の記号的流暢性は、記号的マシンそのものに保証されず、任意の意味についての協調を要する社会的・文化的相互作用に没頭することで生じる。
• 特に人間の協働を含む、相互作用的でフィードバック豊富かつ多様な経験は、スケールそのもの以上の効果をもって記号的行動を向上させる。
• 厳密な結合性や離散的表現を強制しなくても、豊かな相互作用的経験から一般化と記号的熟達が生じうる。
• 記号の三項的性質（基盤、指し示す対象、解釈者）により、記号的意味は本質的に主観的かつ慣習的であり、記号自体に内在するものではない。
• スケーラブルなデータと人間のフィードバックを用いて、学習ベースのエージェントを直接的に記号的行動に最適化することは、記号的流暢性に至る実用的で効果的な道筋である。