[논문 리뷰] Exploring the hierarchical structure of human plans via program generation

Carlos G. Correa, Sophia Sanborn외 4명|arXiv (Cornell University)|2023. 11. 30.

Software Engineering Research인용 수 4

한 줄 요약

이 논문은 인간이 프로그래밍처럼 명시적인 계층적 구조를 가진 작업에서 프로그램을 생성하도록 하여, 인간이 어떻게 계층적 구조를 가진 계획을 생성하는지 조사한다. 연구에서는 사람들이 최소 기술 길이(MDL)가 예측하는 것보다 더 많은 프로그램 재사용을 선호하는 것으로 밝혀졌으며, 이를 설명하는 생성 모델을 제안한다. 이 모델은 문법 유도 기반으로 설계되었으며, 기존의 유틸리티 최적화나 MDL 모델보다 더 뛰어난 성능을 보였다.

ABSTRACT

Human behavior is often assumed to be hierarchically structured, made up of abstract actions that can be decomposed into concrete actions. However, behavior is typically measured as a sequence of actions, which makes it difficult to infer its hierarchical structure. In this paper, we explore how people form hierarchically structured plans, using an experimental paradigm with observable hierarchical representations: participants create programs that produce sequences of actions in a language with explicit hierarchical structure. This task lets us test two well-established principles of human behavior: utility maximization (i.e. using fewer actions) and minimum description length (MDL; i.e. having a shorter program). We find that humans are sensitive to both metrics, but that both accounts fail to predict a qualitative feature of human-created programs, namely that people prefer programs with reuse over and above the predictions of MDL. We formalize this preference for reuse by extending the MDL account into a generative model over programs, modeling hierarchy choice as the induction of a grammar over actions. Our account can explain the preference for reuse and provides better predictions of human behavior, going beyond simple accounts of compressibility to highlight a principle that guides hierarchical planning.

연구 동기 및 목표

• 내부 표현이 직접 관찰되지 않는 새로운 설정에서 인간이 어떻게 계층적 구조를 가진 계획을 형성하는지 조사하기 위해.
• 인간의 계획 생성이 유틸리티 최적화(작은 동작 수)인지 최소 기술 길이(짧은 프로그램)인지 테스트하기 위해.
• MDL나 유틸리티 최적화만으로는 설명할 수 없는 인간 프로그램의 정성적 특징을 규명하기 위해.
• 계층적 계획의 생성 모델에서 하위 프로그램 재사용에 대한 선호를 사전 확률 민감도로 형식화하기 위해.
• 계층적 계획을 함께 추론하는 문법과 그 문법을 사용한 계획을 함께 추론하는 문법 유도 모델을 개발하고 평가하기 위해.

제안 방법

• 참가자들이 하위 프로그램으로 묶일 수 있는 동작을 포함한 Lightbot 유사 환경에서 계층적 프로그램을 생성함.
• 연구에서는 인간이 생성한 프로그램을 유틸리티 최적화(동작 수 최소화)와 MDL(프로그램 길이 최소화)의 예측과 비교함.
• 계층적 선택을 문법 유도로 모델링하는 생성 모델을 개발하였으며, 자주 사용되는 하위 프로그램의 재사용을 선호하는 사전 편향을 포함함.
• 하위 프로그램이 자신을 호출할 수 있는 재귀적 프로그램 생성 방식을 사용하며, 목표 후 동작 및 재귀적 하위 프로그램에 대한 특수 케이스를 포함함.
• 최소 길이 및 사용 횟수 제약 조건을 충족시키는 조건 하에, 추적 기반으로 프로그램을 추론하는 탐욕적 추적 재작성 알고리즘을 사용함.
• A* 탐색을 사용하여 실행 추적을 효율적으로 찾기 위해 맨하탄 거리와 최소 스패닝 트리 비용을 조합한 휴리스틱을 사용함.

실험 결과

연구 질문

• RQ1 사람들은 익숙하지 않은, 연습하지 않은 설정에서 어떻게 계층적 계획을 생성하는가?
• RQ2 인간이 계층적 프로그램을 생성할 때, 프로그램 길이(MDL)나 동작 수(유틸리티 최적화)를 얼마나 최적화하는가?
• RQ3 MDL나 유틸리티 최적화만으로는 설명할 수 없는 인간 프로그램의 정성적 특징(예: 하위 프로그램 재사용)이 있는가?
• RQ4 재사용을 선호하는 사전 확률을 포함한 문법 유도 기반 생성 모델이 MDL나 유틸리티 모델보다 인간의 프로그램 구조를 더 잘 예측할 수 있는가?
• RQ5 사전 경험(하위 프로그램 사용 경험)이 계층적 계획 구조 형성에 어떤 역할을 하는가?

주요 결과

• 참가자들은 더 짧은 프로그램과 더 적은 동작을 선호하여, MDL와 유틸리티 최적화에 민감한 것으로 나타남.
• 이러한 경향에도 불구하고, 참가자들은 MDL나 유틸리티 최적화가 예측하는 것보다 항상 더 많은 하위 프로그램 재사용을 보였으며, 이는 압축 가능성 초월하는 정성적 재사용 선호도를 의미함.
• 재사용 편향 사전 확률을 포함한 제안된 문법 유도 모델이 인간의 프로그램 구조 예측에서 MDL 및 유틸리티 최적화보다 더 뛰어난 성능을 보였음.
• 모델은 전체 프로그램 길이를 줄이는 데 기여하는 복잡한 패턴인 재귀적 하위 프로그램과 목표 후 동작을 성공적으로 포착함.
• 참가자 프로그램의 78%와 최소 한 명 이상의 다른 참가자와 공유된 프로그램의 94%가 모델의 프로그램 코퍼스에 의해 성공적으로 생성됨.
• A* 탐색에서 사용된 휴리스틱은 맨하탄 거리와 최소 스패닝 트리 비용을 조합하여 추적 탐색의 단조성과 최적성을 보장함.