[論文レビュー] CommAI: Evaluating the first steps towards a useful general AI

Marco Baroni, Armand Joulin+5 more|arXiv (Cornell University)|Jan 31, 2017

AI-based Problem Solving and Planning参考文献 10被引用数 9

ひとこと要約

本論文は、自然言語理解、学びの学び、構成的一般化、フィードバック活用といったコアな能力をテストする、最小限の通信ベースのタスクを通じて汎用人工知能を評価するためのフレームワーク、CommAIを紹介する。主な貢献は、言語的相互作用、構成的推論、多様で入れ違いのタスク間での効率的適応を要する、段階的に複雑になる正規表現タスクを評価するスケーラブルでオープンソースのプラットフォーム（CommAI-env）を提供することにある。

ABSTRACT

With machine learning successfully applied to new daunting problems almost every day, general AI starts looking like an attainable goal. However, most current research focuses instead on important but narrow applications, such as image classification or machine translation. We believe this to be largely due to the lack of objective ways to measure progress towards broad machine intelligence. In order to fill this gap, we propose here a set of concrete desiderata for general AI, together with a platform to test machines on how well they satisfy such desiderata, while keeping all further complexities to a minimum.

研究の動機と目的

• 有用な汎用AIの進捗を測るための客観的で汎用的なベンチマークの不足に対処すること。
• 汎用知能のための最小限で明確な望ましい特性を定義すること：自然言語での通信、タスク間での学びの学び、フィードバック活用、および最小限で汎用的なインターフェース。
• エージェントが段階的に複雑になるタスクの階層において、効率的に学習し、解決策を組み立てる能力を評価するためのテストベッドを開発すること。
• 統一的でスケーラブルな環境において、一般化、構成的学習、言語指令従いに関する研究を促進すること。

提案手法

• エージェントが1ステップあたり1ビットずつ受信および送信する最小限のインターフェースを設計し、別個の報酬チャネルを設けることで、一般性を確保し、ドメイン特有の仮定を避ける。
• 正規表現に基づく5つのタスクセットを実装し、単純な文字列認識から、複雑な論理積、論理和、否定までをカバーする。
• 「間違い」「正しい」「例：CCC」といった言語的フィードバックを埋め込み、人間のような指示や是正をシミュレートし、言語ベースの学習を可能にする。
• 構成的一般化を支援するようにタスクを構造化する：例えば、パースィングやn-gram認識といった初期タスクのスキルが、後のタスク（例：生成、複雑な論理）で再利用可能である。
• 段階的なタスク設計を採用し、タスクの複雑さを段階的に増加させる（例：単一n-gramから複数n-gram、論理積や否定へ）ことで、効率的な転移学習を可能にする。
• 「2つの異なる文字列を生成せよ」などの生成タスクを導入し、計画性や過去の出力の記憶をテストすることで、単純な認識をはるかに超える能力を検証する。

実験結果

リサーチクエスチョン

• RQ1 機械は最小限のビットレベルインターフェースにおいて、自然言語指令を理解し、それに従って行動できるか？
• RQ2 特に以前のタスクからのスキルを再利用することで、エージェントはどの程度タスク間で一般化できるか？
• RQ3 明示的な報酬信号がなく、代わりに疎なフィードバック（例：言語的ヒントや報酬なし）を用いる場合、エージェントはどの程度効果的に学習できるか？
• RQ4 タスク固有の再プログラミングなしに、一貫したストリームとしての多様で入れ違いのタスク群を1つのエージェントが効率的に習得できるか？
• RQ5 言語的フィードバックや構造化されたタスク階層の導入は、ゼロショットまたはフェイシュット一般化において、データ効率性と学習速度をどの程度向上させるか？

主な発見

• CommAI-miniタスクスイートは、単純な認識から複数制約付きの生成まで複雑度が増す20以上の異なる正規表現タスクにおいて、学びの学びを効果的にサポートしている。
• 初期タスク（例：単一n-gramの認識）を習得したエージェントは、後続のタスク（例：複数n-gramや否定を含む文字列の認識・生成）の学習を著しく加速できる。
• 「間違い；正しい：CCC」のような言語的フィードバックは、明示的な報酬信号がなくても、効果的な誤り是正と指令従いを可能にする。
• フレームワークは構成的一般化をサポートする：メッセージのパースィング、区切り文字の特定、n-gramの保存といったスキルは、タスクの種類や構造を問わず再利用可能である。
• 2つの異なる出力を要請する生成タスクは、エージェントが過去の出力を記憶し、それらをもとに推論を行う必要があるため、高次の計画性と記憶の使用を示している。
• タスク固有の設計なしに最小限のインターフェースを用いることで、エージェントは1つの統一された学習プロセスを通じて多様なスキルを習得できる。