[논문 리뷰] Digits that are not: Generating new types through deep neural nets

Cherti, Akın Kazakçıand Mehdi, Balázs Kégl|arXiv (Cornell University)|2016. 06. 14.

Artificial Intelligence in Games참고 문헌 26인용 수 3

한 줄 요약

이 논문은 깊이 있는 생성형 오토인코더를 사용하여 지식 기반 창의성 프레임워크를 제안한다. 이 모델은 기존에 알려진 숫자 클래스에 속하지 않지만 의미적으로 일관된 새로운, 알려지지 않은 숫자 유형을 생성한다. 손글씨 숫자에서 계층적인 특징을 학습함으로써, 모델은 조합적 샘플링을 통해 새로운 기호를 생성하며, 인공 에이전트가 외부에서 부여된 가치 함수에 의존하지 않고 내부 지식 기반으로 자율적으로 새로운 것을 탐색할 수 있음을 보여준다.

ABSTRACT

For an artificial creative agent, an essential driver of the search for novelty is a value function which is often provided by the system designer or users. We argue that an important barrier for progress in creativity research is the inability of these systems to develop their own notion of value for novelty. We propose a notion of knowledge-driven creativity that circumvent the need for an externally imposed value function, allowing the system to explore based on what it has learned from a set of referential objects. The concept is illustrated by a specific knowledge model provided by a deep generative autoencoder. Using the described system, we train a knowledge model on a set of digit images and we use the same model to build coherent sets of new digits that do not belong to known digit types.

연구 동기 및 목표

• 기존 창의적 시스템이 새로운 것을 평가하기 위해 외부에서 부여된 가치 함수에 의존하는 한계를 해결하기 위해.
• 인공 에이전트가 학습된 도메인 지식 기반으로 자체 내부 가치 체계를 수립하여 새로운 것을 탐색할 수 있도록 하기 위해.
• 기존에 알려진 물체 유형을 초월한 생성형 딥 네트워크를 탐색하여 새로운 의미적 유형을 창출하기 위해.
• 딥 오토인코더가 표준 숫자로 인식되지 않지만 의미적으로 일관된 새로운 기호를 생성할 수 있음을 보여주기 위해.
• 기계가 자가 구축한 지식 모델을 기반으로 자율적으로 창의적 탐색을 이끄는 데 기초를 마련하기 위해.

제안 방법

• 손글씨 숫자(0–9) 데이터셋에 대해 깊이 있는 생성형 오토인코더를 훈련하여 계층적이고 분리된 특징 표현을 학습하기 위해.
• 학습된 인코더를 사용해 입력 숫자를 추상적이고 조합적인 특징을 나타내는 학습된 잠재 공간으로 매핑하기 위해.
• 다른 숫자의 특징을 비표준적인 방식으로 조합하는 방식으로 잠재 공간에서 조합적 샘플링 전략을 적용하기 위해.
• 샘플된 잠재 벡터를 생성형 디코더를 통해 디코딩하여 새로운, 시각적으로 일관된 숫자 유사 기호를 생성하기 위해.
• 오토인코더가 알려진 숫자를 재구성할 수 있는 능력을 활용하여 의미적 일관성을 확보함으로써, 구조적 및 조합적 규칙을 유지하기 위해.
• 지각적 분석을 통해 새로운 것을 평가함—결과는 표준 숫자로 인식되지 않지만 꿈같은 기호처럼 자연스럽고 타당해 보임.

실험 결과

연구 질문

• RQ1 딥 생성 모델은 훈련 데이터에 존재하지 않는 새로운 물체 유형을 생성할 수 있으며, 동시에 의미적 일관성을 유지할 수 있는가?
• RQ2 인공 에이전트는 외부에서 정의된 적합도 또는 가치 함수에 의존하지 않고 어떻게 새로운 것을 생성할 수 있는가?
• RQ3 자기 학습 지식 모델이 도메인 내 새로운 유형을 탐색하는 데 얼마나 효과적으로 기여할 수 있는가?
• RQ4 딥 오토인코더의 내부 표현이 의미적으로 타당하지만 새로운 기호를 생성하는 데 어떤 역할을 하는가?
• RQ5 생성 모델의 잠재 공간에서의 조합적 샘플링이 알려진 카테고리 외의 '알 수 없는' 유형을 체계적으로 탐색하는 데 기여할 수 있는가?

주요 결과

• 모델은 기존 표준 숫자(0–9)로 인식되지 않지만 형태적으로 일관되고 타당해 보이는 새로운 숫자 유사 기호 세트를 성공적으로 생성하였다.
• 생성된 기호는 도메인의 구조적 및 조합적 규칙과 일치하는 정규성을 보이며, 이는 모델이 추상적이고 의미 수준의 특징을 학습했다는 것을 시사한다.
• 학습된 특징 공간의 빈틈을 탐색함으로써 지식 기반 창의성을 구현한 시스템은 새로운 것이면서도 의미적으로 타당한 기호를 생성한다.
• 외부 평가 함수에 의존하는 것을 피하고, 대신 도메인에 대한 자체 내부 모델 기반으로 새로운 것을 탐색할 수 있도록 한다.
• 결과는 깊이 있는 생성형 오토인코더가 재구성 기능 외에도 알려진 카테고리 이외의 새로운 유형을 체계적으로 탐색하는 데도 사용될 수 있음을 보여준다.
• 이 방법은 향후 시스템이 환경과의 상호작용을 통해 자체 가치 함수를 수립할 수 있도록 하며, 사전에 정의된 기준에 의존하지 않는 시스템의 기초를 제공한다.