[논문 리뷰] Human-like machine learning: limitations and suggestions

Georgios Mastorakis|arXiv (Cornell University)|2018. 11. 14.

Human Pose and Action Recognition참고 문헌 32인용 수 8

한 줄 요약

이 논문은 컴퓨터 시각 분야에서 데이터 중심 기계 학습을 비판하며, 대규모이고 대표성이 있는 데이터셋에 의존할 경우 일반화 능력과 내구성이 제한된다고 주장한다. 데이터 패턴을 넘어서 행동을 이해할 수 있도록 물리 기반, 시뮬레이션 기반, 자기 학습 기반 접근법을 제안함으로써, 광범위한 레이블이 없는 환경에서도 인간 수준의 적응력을 갖춘 AI를 구현하고자 한다.

ABSTRACT

This paper attempts to address the issues of machine learning in its current implementation. It is known that machine learning algorithms require a significant amount of data for training purposes, whereas recent developments in deep learning have increased this requirement dramatically. The performance of an algorithm depends on the quality of data and hence, algorithms are as good as the data they are trained on. Supervised learning is developed based on human learning processes by analysing named (i.e. annotated) objects, scenes and actions. Whether training on large quantities of data (i.e. big data) is the right or the wrong approach, is debatable. The fact is, that training algorithms the same way we learn ourselves, comes with limitations. This paper discusses the issues around applying a human-like approach to train algorithms and the implications of this approach when using limited data. Several current studies involving non-data-driven algorithms and natural examples are also discussed and certain alternative approaches are suggested.

연구 동기 및 목표

• 데이터 부족 및 데이터의 대표성 부족으로 인해 현재의 데이터 중심 기계 학습 기반 행동 인식 기술의 한계를 해결하고자 한다.
• 인간 수준의 학습이 데이터 기반 방법으로 최적인지, 아니면 대체로 데이터 기반 외의 방법이 더 높은 성능을 낼 수 있는지 탐구하고자 한다.
• 대규모 레이블이 부여된 데이터셋에 대한 의존도를 줄이기 위해 시뮬레이션 기반 및 자기 학습 기반 접근법을 탐색하고자 한다.
• 물리적 이해(예: 중력, 역학 등)가 강건하고 일반화 가능한 AI 행동을 가능하게 하는 데서 수행하는 역할을 분석하고자 한다.
• 인간이 지도하는 데이터 정제 방식에서 탈피하여 자율적이고 물리 기반이며 자기 수정 기능을 갖춘 AI 시스템으로의 전환을 제안함으로써 고도화된 인공지능을 실현하고자 한다.

제안 방법

• 보행 및 추락과 같은 행동을 위한 합성 학습 데이터를 생성하기 위해 시뮬레이션 엔진(예: 마이오스케letal, 물리 기반)을 사용한다.
• 중력, 질량, 자세 등의 물리 법칙을 모델에 통합함으로써, 레이블이 없는 환경에서도 실제 세계의 역학을 반영하는 행동을 가능하게 한다.
• 스틱 모델을 사용한 강화 학습을 통해 달리기, 점프와 같은 이동 행동을 학습한다.
• 영상 데이터 대신 수학적 시뮬레이션을 활용해 물체 추락, 인간 추락 등의 사건에 대한 데이터 기반 외 모델링을 제안한다.
• 관찰된 인간의 시연에 의존하기보다는 물리적 상호작용을 시뮬레이션함으로써 학습하고 자기 수정하는 AI 시스템의 구현을 주장한다.
• 데이터에서 조건을 암기하는 대신, 표면이 미끄럽기 때문에(예: 왜 미끄럽기 때문에)와 같은 인과적 이해를 모델에 통합할 것을 제안한다.

실험 결과

연구 질문

• RQ1 대규모이고 다양한 레이블이 부여된 데이터셋에 의존하지 않고도 기계 학습이 인간 수준의 내구성을 갖춘 행동 인식을 달성할 수 있는가?
• RQ2 현재의 데이터 중심 접근법이 가림, 희귀 사건, 물리적 변동성 등에 의해 얼마나 일반화에 실패하는가?
• RQ3 물리 기반 시뮬레이션 모델이 실제 영상 데이터에 대한 의존도를 줄이거나 대체할 수 있는가?
• RQ4 생물학적 발달에서 영감을 얻은 자기 학습 및 자기 수정 메커니즘은 인간이 지도한 학습을 뛰어넘어 AI 성능을 향상시킬 수 있는가?
• RQ5 물리 역학의 인과적 이해는 관측된 예외를 넘어서 일반화할 수 있도록 AI에 어떤 역할을 하는가?

주요 결과

• 현재 컴퓨터 시각 분야에서 데이터 중심 기반 접근법은 특히 가림이나 희귀 사건 상황에서 제한된, 비대표적이거나 편향된 데이터셋으로 인해 일반화 능력이 떨어진다.
• 시뮬레이션을 통한 합성 데이터 생성은 샘플 수를 늘릴 수는 있지만, 보통 물리적 행동의 다양성이나 자동차 사고, 추락과 같은 복잡한 시나리오의 다양성은 향상되지 못한다.
• 물리 기반 시뮬레이션 모델(예: 추락에 대한 마이오스케letal, 보행에 대한 이족보행)은 데이터 기반 외 행동 모델링의 개념적 실현 가능성을 보여주지만, 확장성은 여전히 제한되어 있다.
• 생물학적 발달에서 영감을 얻은 자기 학습 및 자기 수정 메커니즘은 잠재력은 크지만, 인간이 레이블을 부여한 데이터에 대한 의존도를 줄일 수 있다는 점에서 아직 충분히 탐구되지 못했다.
• 중력, 표면 마찰 계수 등의 인과적 물리 원리를 이해함으로써, 사전 관찰 없이도 행동을 추론할 수 있어 적응성과 일반화 능력이 향상된다.
• 학습 프레임워크에 물리 원리를 통합하면 AI가 자율적으로 행동을 시뮬레이션하고 수정할 수 있으며, 장기적인 성능과 내구성 측면에서 데이터 집약적 방법을 능가할 수 있다.