[논문 리뷰] Predicate Invention by Learning From Failures

Andrew Cropper, Rolf Morel|arXiv (Cornell University)|2021. 04. 29.

Logic, Reasoning, and Knowledge참고 문헌 31인용 수 6

한 줄 요약

이 논문은 실패 기반 학습을 통해 자동으로 술어를 발명할 수 있도록 하는 인덕티브 로직 프로그래밍 시스템인 Poppi를 소개한다. 답변 집합 프로그래밍을 사용하여, 사용자 정의 메타룰이나 수동으로 기호를 지정할 필요 없이 유용하고 컴act한 술어를 자동으로 발견함으로써, 유용한 경우 학습 성능을 크게 향상시키고, 필요하지 않은 경우에도 효율성을 유지한다.

ABSTRACT

Discovering novel high-level concepts is one of the most important steps needed for human-level AI. In inductive logic programming (ILP), discovering novel high-level concepts is known as predicate invention (PI). Although seen as crucial since the founding of ILP, PI is notoriously difficult and most ILP systems do not support it. In this paper, we introduce POPPI, an ILP system that formulates the PI problem as an answer set programming problem. Our experiments show that (i) PI can drastically improve learning performance when useful, (ii) PI is not too costly when unnecessary, and (iii) POPPI can substantially outperform existing ILP systems.

연구 동기 및 목표

• 인덕티브 로직 프로그래밍(ILP)에서 인간 수준의 인공지능에 필수적이지만 실무에서는 거의 지원되지 않는 오랜 도전 과제인 술어 발명(PI)을 해결하기 위해.
• 사용자가 제공한 메타룰이나 술어의 아리티와 타입을 수동으로 지정해야 하는 기존 PI 방법의 한계를 극복하기 위해.
• 학습 과정에 원활하게 통합되며, 가설의 압축성과 성능을 향상시키는 확장 가능한 자동 PI 방법을 개발하기 위해.
• 필요한 경우 매우 유용하고, 불필요한 경우 비용이 낮은 비용 효율적인 PI를 실현하기 위해.

제안 방법

• 술어 발명 문제를 답변 집합 프로그래밍(ASP) 문제로 재구성하여 기술적이고 확장 가능한 추론을 가능하게 한다.
• 최적의 해에 대해 타당한 새로운 종류의 중복 제약 조건을 도입하여 실패 기반 학습(LFF) 프레임워크를 확장한다.
• 학습 과정 중에 자동으로 술어의 아리티와 인수 타입을 추론하여 사용자 정의 기호나 메타룰이 필요 없도록 한다.
• 실패 분석을 통해 가설 제약 조건을 생성하여 검색 공간을 단순화하고, 효율성과 수렴성을 향상시킨다.
• PI를 핵심 학습 루프에 통합하여, 동시에 술어와 가설을 발견할 수 있도록 한다.
• 세 단계 주기인 생성, 테스트, 제약 조건 설정을 활용하며, 실패가 후보 가설과 발명된 술어의 개선을 이끌어낸다.

실험 결과

연구 질문

• RQ1 필요한 경우 술어 발명이 ILP의 학습 성능을 크게 향상시킬 수 있는가?
• RQ2 필요하지 않은 경우 술어 발명의 비용이 무시할 만큼 낮은가?
• RQ3 사용자 제공 메타룰에 의존하는 기존 시스템보다 자동 술어 발명 기능을 갖춘 ILP 시스템이 더 뛰어난 성능을 보일 수 있는가?
• RQ4 제안된 중복 제약 조건은 최적의 해를 유지하면서도 가설 공간을 얼마나 효과적으로 단순화하는가?
• RQ5 자동으로 발명된 술어를 사용해 재귀적이고 다중 문장 프로그램을 학습할 수 있는가?

주요 결과

• Poppi는 성공한 모든 프로그래밍 퍼즐에서 100%의 예측 정확도를 달성했으며, 중복 요소 찾기 및 리스트 정렬과 같은 복잡한 작업도 포함되어 있다.
• finddup 작업에서 Poppi는 98%의 정확도를 기록했고, 표준 오차는 0이었으며, 이는 Metagol의 50% 정확도를 크게 뛰어넘는 성과이다.
• 대부분의 작업에서 Poppi는 1초 이내에 솔루션을 학습했으며, finddup 작업에서 가장 오래 걸린 경우도 91초였고, 이는 Popper의 동일 작업 대비 48초보다 더 오래 걸린 것이다.
• Poppi의 학습 시간은 Popper보다 항상 더 길었지만, 차이는 항상 두 배 이내였으며, 이는 필요하지 않은 경우에도 PI가 금방이 되지 않는다는 것을 시사한다.
• Poppi는 Metagol의 기능을 포함하고 있으며, 동일한 검색 전략을 재현할 수 있어, 더 일반적이고 강력한 프레임워크임을 입증한다.
• 실험 결과 Poppi는 세 가지 문제를 제외하고는 모든 문제에서 Metagol을 능가했으며, 나머지 세 문제에 대해서는 동일한 성능을 보였으며, 이는 Poppi의 뛰어난 확장성과 효과성을 확인한다.