[논문 리뷰] Symbolic Behaviour in Artificial Intelligence

Adam Santoro, Andrew K. Lampinen외 3명|arXiv (Cornell University)|2021. 02. 05.

Language and cultural evolution참고 문헌 75인용 수 4

한 줄 요약

이 논문은 인공지능에서 상징적 유창성은 상징적 아키텍처 자체로 평가되어서는 안 되며, 인간의 사회문화적 상호작용에 뿌리를 둔 행동 기준을 통해 평가되어야 한다고 제안한다. 상징 의미를 관례적이고 해석자에 따라 달라지는 것으로 간주함으로써, 저자들은 새로운 기호를 구성하거나 관례를 적응하거나 의미에 대해 내省하는 등의 계급화된 행동 지표를 도입하고, 학습 기반 에이전트가 인간과의 상호작용이 풍부하고 피드백이 많은 환경에 몰입함으로써 직접적으로 확장 가능한 데이터 수집을 통해 행동을 최적화함으로써 인간과 유사한 상징적 행동을 달성할 수 있다고 주장한다.

ABSTRACT

The ability to use symbols is the pinnacle of human intelligence, but has yet to be fully replicated in machines. Here we argue that the path towards symbolically fluent artificial intelligence (AI) begins with a reinterpretation of what symbols are, how they come to exist, and how a system behaves when it uses them. We begin by offering an interpretation of symbols as entities whose meaning is established by convention. But crucially, something is a symbol only for those who demonstrably and actively participate in this convention. We then outline how this interpretation thematically unifies the behavioural traits humans exhibit when they use symbols. This motivates our proposal that the field place a greater emphasis on symbolic behaviour rather than particular computational mechanisms inspired by more restrictive interpretations of symbols. Finally, we suggest that AI research explore social and cultural engagement as a tool to develop the cognitive machinery necessary for symbolic behaviour to emerge. This approach will allow for AI to interpret something as symbolic on its own rather than simply manipulate things that are only symbols to human onlookers, and thus will ultimately lead to AI with more human-like symbolic fluency.

연구 동기 및 목표

• 상징 지능을 구조적 특성으로 보는 것이 아니라, 사회적 관례에 뿌리를 둔 행동 능력으로 재정의하기 위해.
• 이진 상징 사용 평가의 한계를 해결하기 위해 상징 행동에 대한 계급화되고 측정 가능한 기준을 도입하기 위해.
• 기계의 상징적 유창성이 상징적 아키텍처 자체에서 비롯되지 않고, 임의의 의미에 대한 조율이 요구되는 인간의 사회문화적 상호작용에 몰입함으로써 유도된다는 것을 주장하기 위해.
• 현대의 학습 기반 AI가 상호작용이 풍부하고 피드백이 많은 대규모 데이터 수집을 통해 상징적 행동을 최적화할 수 있음을 보여주기 위해.

제안 방법

• 기호를 삼각관계로 정의한다: 기초 물질, 지목, 해석자이며, 의미가 약속된 관례에서 유래한다.
• 상징 행동을 측정 가능하고 계급화된 특성의 집합으로 프레임화한다: 새로운 관례에 대한 수용성, 새로운 기호의 구성, 기존 기호의 적응, 의미 및 추론에 대한 내省.
• 상징적 유창성이 상징적 기계장치 자체에서 비롯되지 않고, 임의의 의미에 대한 조율이 요구되는 사회문화적 환경에서 학습하는 에이전트에서 유도된다는 것을 제안한다.
• 학습 기반 에이전트가 상징적 행동을 보이도록 하기 위해 인간 행동의 대규모 상호작용 데이터셋을 수집하고 인간 피드백을 통합할 것을 주장한다.
• 현대의 학습 알고리즘을 사용하여 기호 행동을 직접 최적화하고, 상징적 유창성을 구조적 특성보다는 행동 목표로 간주한다.
• строго한 조합성과 이산 표현이 필수적이라고 거부하며, 연속적 또는 분산 표현이 관례적으로 취급된다면 여전히 기능적으로 기호로 기능할 수 있음을 강조한다.

실험 결과

연구 질문

• RQ1 AI에서 상징적 행동은 단순한 유무가 아니라, 어떻게 계급화되고 이진적이지 않은 방식으로 측정할 수 있는가?
• RQ2 사회문화적 상호작용과 인간 피드백은 학습 기반 에이전트의 상징적 유창성 향상에 어떤 역할을 하는가?
• RQ3 명시적인 상징적 아키텍처 없이도 상징적 행동을 행동 목표로 직접 최적화할 수 있는가?
• RQ4 시스템성 또는 조합적 일반화는 상징적 행동에 얼마나 필수적인가? 실제로는 어떻게 유도되는가?
• RQ5 연속적 또는 분산 표현이 이산적이거나 국소주의가 아니면 어떻게 기호로 기능할 수 있는가?

주요 결과

• 상징적 행동은 이진적 특성이 아니라, 새로운 기호를 구성하거나 관례를 적응하거나 의미에 대해 내성하는 등의 능력으로 구성된 계급화된 능력 집합이다.
• 인간과 유사한 상징적 유창성은 상징적 기계장치 자체로는 보장되지 않으며, 임의의 의미에 대한 조율이 요구되는 사회문화적 상호작용에 몰입함으로써 유도된다.
• 특히 인간 협업을 포함한 상호작용이 풍부하고 피드백이 많은 다양한 경험은 규모만으로는 초월하여 상징적 행동을 크게 향상시킨다.
• 엄격한 조합성이나 이산 표현을 강제하지 않더라도 풍부하고 상호작용이 많은 경험을 통해 일반화와 상징적 능력이 유도될 수 있다.
• 기호의 삼각적 성격—기초 물질, 지목, 해석자—는 상징 의미가 본질적으로 주관적이고 관례 기반임을 의미하며, 기호 자체에 내재된 것이 아니다.
• 확장 가능한 데이터와 인간 피드백을 사용하여 학습 기반 에이전트를 직접 상징적 행동에 최적화하는 것은 상징적 유창성에 도달하는 타당하고 효과적인 길이다.