[論文レビュー] Digits that are not: Generating new types through deep neural nets

Cherti, Akın Kazakçıand Mehdi, Balázs Kégl|arXiv (Cornell University)|Jun 14, 2016

Artificial Intelligence in Games参考文献 26被引用数 3

ひとこと要約

本論文は、深層生成オートエッコーダーを用いて、既存のどの数字クラスにも属さないが意味的に整合的で、まったく新しい数字の種類を生成する、知識駆動型の創造的フレームワークを提案する。手書き数字から階層的特徴を学習することで、合成的サンプリングにより新しい記号を生成し、人工エージェントが外部の価値関数に依存せずに内部の知識に基づいて自発的に新奇性を探索できる仕組みを示している。

ABSTRACT

For an artificial creative agent, an essential driver of the search for novelty is a value function which is often provided by the system designer or users. We argue that an important barrier for progress in creativity research is the inability of these systems to develop their own notion of value for novelty. We propose a notion of knowledge-driven creativity that circumvent the need for an externally imposed value function, allowing the system to explore based on what it has learned from a set of referential objects. The concept is illustrated by a specific knowledge model provided by a deep generative autoencoder. Using the described system, we train a knowledge model on a set of digit images and we use the same model to build coherent sets of new digits that do not belong to known digit types.

研究の動機と目的

• 既存の創造的システムが新奇性を評価するために外部から強制された価値関数に依存するという限界を克服すること。
• 人工エージェントが学習したドメイン知識に基づいて、自らの内部価値システムを構築し、新奇性を生成できるようにすること。
• 既知のオブジェクトタイプを超えて、生成的深層ニューラルネットワークを活用し、新しい意味的タイプの生成に焦点を当てること。
• 深層オートエッコーダーが、標準的な数字とは認識されないが意味的に整合的で一貫性のある新しい記号を生成できることを示すこと。
• 機械が自己構築された知識モデルに基づいて、自発的に創造的探求を推進する仕組みを研究する基盤を提供すること。

提案手法

• 手書き数字（0–9）のデータセット上で深層生成オートエッコーダーを訓練し、階層的かつ分離可能な特徴表現を学習すること。
• 訓練済みエンコーダーを用いて、入力された数字を抽象的で合成的な特徴を表す学習済み潜在空間にマッピングすること。
• 潜在空間において、異なる数字の特徴を非標準的な方法で組み合わせる合成的サンプリング戦略を適用すること。
• サンプルされた潜在ベクトルを生成的デコーダーで復元し、新しい視覚的に整合的な数字に似た記号を生成すること。
• オートエッコーダーが既知の数字を再構成できる能力を活用することで、構造的・構成的ルールを保持することにより意味的整合性を確保すること。
• 知覚的分析による新奇性の評価—結果は標準的な数字とは認識されないが、現実的で夢見るようにも見える記号として出現する。

実験結果

リサーチクエスチョン

• RQ1 深層生成モデルは、訓練データに存在しない新しいオブジェクトタイプを生成しつつ、意味的整合性を保つことができるか？
• RQ2 人工エージェントは、外部で定義されたフィットネス関数や価値関数に依存せずに、どのように新奇性を生成できるか？
• RQ3 自己学習された知識モデルが、ドメイン内で新しいタイプの発見をどの程度ガイドできるか？
• RQ4 深層オートエッコーダーの内部表現が、意味的に妥当だが新奇な記号の生成を可能にする役割は何か？
• RQ5 生成モデルの潜在空間における合成的サンプリングは、既知のカテゴリを超えた「未知」のタイプの体系的探索を可能にするか？

主な発見

• モデルは、標準的な数字（0–9）とは認識されないが、形としては整合的で妥当な新しい数字に似た記号を効果的に生成した。
• 生成された記号は、ドメインに整合する構造的・構成的規則性を示しており、モデルが抽象的で意味論的な特徴を学習していることを示唆している。
• 学習済み特徴空間の盲点を探索することで、知識駆動型の創造的プロセスを実現し、新奇かつ意味的に妥当なオブジェクトを生成した。
• 外部評価関数に依存することなく、ドメインに関する自らの内部モデルに基づいて新奇性を探索できる仕組みを実現した。
• 深層生成オートエッコーダーが再構成の目的だけでなく、既知のカテゴリを超えた新しいタイプの体系的探索にも応用可能であることが示された。
• 本手法は、将来的なシステムが環境との相互作用を通じて自らの価値関数を構築できる基盤を提供する。