[논문 리뷰] CommAI: Evaluating the first steps towards a useful general AI

Marco Baroni, Armand Joulin외 5명|arXiv (Cornell University)|2017. 01. 31.

AI-based Problem Solving and Planning참고 문헌 10인용 수 9

한 줄 요약

이 논문은 자연어 이해, 학습-학습, 조합적 일반화, 피드백 활용 등 핵심 능력을 테스트하는 최소한의 통신 기반 작업을 통해 일반 인공지능의 성능을 평가하는 데 목적이 있는 CommAI 프레임워크를 소개한다. 주요 기여는 점차 복잡해지는 정규표현식 작업을 요구하며 언어적 상호작용, 조합적 추론, 다양한 교차 작업 간 효율적 적응을 평가할 수 있는 확장 가능하고 오픈소스 플랫폼(CommAI-env)을 제공하는 것이다.

ABSTRACT

With machine learning successfully applied to new daunting problems almost every day, general AI starts looking like an attainable goal. However, most current research focuses instead on important but narrow applications, such as image classification or machine translation. We believe this to be largely due to the lack of objective ways to measure progress towards broad machine intelligence. In order to fill this gap, we propose here a set of concrete desiderata for general AI, together with a platform to test machines on how well they satisfy such desiderata, while keeping all further complexities to a minimum.

연구 동기 및 목표

• 유용한 일반 인공지능으로의 진전을 평가하기 위한 객관적이고 일반적인 벤치마크의 부족을 해결하기 위해.
• 일반 지능을 위한 최소한의 구체적 요구사항을 정의하기 위해: 자연어에서의 의사소통, 다양한 작업 간 학습-학습 능력, 피드백 활용, 그리고 최소한의 일반 목적 인터페이스.
• 에이전트가 점차 복잡해지는 작업 계층에서 효율적으로 학습하고 해결책을 조합할 수 있는 능력을 평가하는 실험기반 환경을 개발하기 위해.
• 통합적이고 확장 가능한 환경에서 일반화, 조합적 학습, 언어 지시 따르기 연구를 촉진하기 위해.

제안 방법

• 에이전트가 시간 단위당 하나의 비트를 수신 및 송신하고 별도의 보상 채널을 갖는 최소한의 인터페이스를 설계하여 일반성 확보 및 도메인 특화 가정을 피하기 위해.
• 단순한 문자열 인식에서 복잡한 논리적 조합(논리합, 논리곱, 부정 포함)에 이르기까지 정규표현식 기반의 다섯 가지 작업 세트를 구현하였다.
• 예를 들어 '틀렸다', '맞다', '예시로 올바른: CCC'와 같은 언어적 피드백을 통합하여 인간과 유사한 지시 및 수정을 시뮬레이션하고, 언어 기반 학습을 가능하게 하였다.
• 작업을 조합적 일반화를 지원하도록 설계: 예를 들어, 이전 작업(예: 파싱, n-gram 인식)에서 습득한 기술이 이후 작업(예: 생성, 복잡한 논리)에서 재사용 가능하도록 하였다.
• 작업 복잡도가 점차 증가하는 계층적 작업 설계를 사용하여, 단일 n-gram에서 다중 n-gram, 그리고 논리 조합 및 부정으로 이르기까지 점진적으로 복잡해지도록 하여 효율적 전이 학습을 가능하게 하였다.
• 예를 들어 '두 개의 서로 다른 문자열을 생성하라'와 같은 생성 작업을 도입하여 계획 수립 및 과거 출력 기억 능력을 테스트하고, 단순 인식을 넘어서는 능력을 평가하였다.

실험 결과

연구 질문

• RQ1 기계는 최소한의 비트 수준 인터페이스에서 자연어 지시를 이해하고 실행할 수 있는가?
• RQ2 특히 이전 작업에서 습득한 기술을 재사용함으로써, 에이전트는 얼마나 잘 다양한 작업 간에 일반화할 수 있는가?
• RQ3 밀도 높은 보상 신호가 아닌, 희박한 피드백(예: 언어적 신호 또는 보상 없음)을 통해 에이전트는 얼마나 효과적으로 학습할 수 있는가?
• RQ4 특정 작업에 맞게 재프로그래밍하지 않고도 단일 에이전트가 지속적인 다양한 교차 작업 스트림을 효율적으로 습득할 수 있는가?
• RQ5 언어적 피드백과 구조화된 작업 계층의 통합은 제로샷 또는 피셔샷 일반화에서 데이터 효율성과 학습 속도를 얼마나 향상시키는가?

주요 결과

• CommAI-mini 작업 세트는 단순 인식에서 다중 조건을 갖는 생성 작업까지 복잡도가 점차 증가하는 20개 이상의 정규표현식 작업에서 학습-학습 능력을 효과적으로 지원한다.
• 이전 작업(예: 단일 n-gram 인식)을 습득한 에이전트는 이후 작업(예: 다중 n-gram 또는 부정을 포함한 문자열 인식 또는 생성)에서 학습 속도를 크게 향상시킬 수 있다.
• 예를 들어 '틀렸다; 올바른 예시: CCC'와 같은 언어적 피드백은 명시적 보상 신호가 없더라도 효과적인 오류 수정과 지시 따르기 능력을 가능하게 한다.
• 이 프레임워크는 조합적 일반화를 지원한다: 메시지 파싱, 구분자 식별, n-gram 저장 등의 기술은 작업 유형과 구조에 관계없이 재사용 가능하다.
• 두 개의 서로 다른 출력을 요구하는 생성 작업은 에이전트가 과거 출력을 저장하고 추론하도록 유도하여 고차원 계획 수립 및 기억 사용 능력을 입증한다.
• 특정 작업에 맞는 엔지니어링 없이 최소한의 인터페이스를 사용함으로써, 단일 통합 학습 과정을 통해 다양한 기술을 습득할 수 있다.