[논문 리뷰] Definition and properties to assess multi-agent environments as social intelligence tests

Javier Insa-Cabrera, José Hernández‐Orallo|arXiv (Cornell University)|2014. 08. 27.

Computability, Logic, AI Algorithms참고 문헌 50인용 수 4

한 줄 요약

이 논문은 사회지능을 다중 에이전트 환경에서의 기대 성능으로(formal, parametrized) 정의하며, 에이전트 상호작용, 보상, 팀 구조에 기반한다. 환경가 사회지능 테스트로 유효한지 평가하기 위해 유계성, 예측 가능성, 분별성 등 10개의 형식적 성질을 도입하고, 유명한 벤치마크 게임인 고전적 딜레마와 사냥개-도망자 게임에 적용하여, 오직 이러한 기준을 만족하는 환경만이 사회지능을 신뢰성 있게 측정할 수 있음을 보여준다.

ABSTRACT

Social intelligence in natural and artificial systems is usually measured by the evaluation of associated traits or tasks that are deemed to represent some facets of social behaviour. The amalgamation of these traits is then used to configure the intuitive notion of social intelligence. Instead, in this paper we start from a parametrised definition of social intelligence as the expected performance in a set of environments with several agents, and we assess and derive tests from it. This definition makes several dependencies explicit: (1) the definition depends on the choice (and weight) of environments and agents, (2) the definition may include both competitive and cooperative behaviours depending on how agents and rewards are arranged into teams, (3) the definition mostly depends on the abilities of other agents, and (4) the actual difference between social intelligence and general intelligence (or other abilities) depends on these choices. As a result, we address the problem of converting this definition into a more precise one where some fundamental properties ensuring social behaviour (such as action and reward dependency and anticipation on competitive/cooperative behaviours) are met as well as some other more instrumental properties (such as secernment, boundedness, symmetry, validity, reliability, efficiency), which are convenient to convert the definition into a practical test. From the definition and the formalised properties, we take a look at several representative multi-agent environments, tests and games to see whether they meet these properties.

연구 동기 및 목표

• 정의된 팀과 보상이 있는 다중 에이전트 환경의 가중치 집합에 대한 기대 성능으로 사회지능을 형식적으로 정의하기.
• 환경이 사회지능의 유효하고 신뢰할 수 있는 테스트가 되기 위해 필요한 핵심 성질을 식별하고 형식화하기.
• 예를 들어 고전적 딜레마, 패키맨, 로보컵 등 기존의 다중 에이전트 게임과 환경을 이러한 성질에 기반해 평가하여, 사회지능 테스트로서의 적합성 판단하기.
• 환경적 요소와 에이전트 설계 선택이 사회지능과 일반지능을 어떻게 구분하는지 보여줌으로써 두 개념의 차이를 명확히 하기.
• 게임 이론과 다중 에이전트 시스템에 기반한 심리측정적으로 타당한 보편적 프레임워크를 제공하여 인공에이전트의 사회지능을 테스트하기

제안 방법

• 에이전트 역할과 팀 구성에 따라 가중치를 부여한 다중 에이전트 환경의 분포에 대해 기대 성능으로 사회지능을 파arametrized 정의한다.
• 테스트 품질을 확보하기 위해 10개의 형식적 성질—유계성, 상호작용성, 비중립성, 분별성, 예측 가능성, 대칭성, 타당성, 신뢰성, 효율성, 보상 의존성—을 도입한다.
• 수학적 형식화를 통해 협력적 예측(ACoop)을 핵심 지표로 정의하며, 팀 구성에서 에이전트 역할을 바꾼 경우의 기대 보상 차이를 계산한다.
• 해석적 유도와 게임 이론적 추론을 활용해 실제 환경을 분석하고, 다양한 에이전트 정책 하에서의 기대 보상 계산을 포함한다.
• 에이전트 쌍과 팀에 대한 가중 평균을 활용해 총 사회지능 점수를 계산하며, 비교 가능성을 확보하기 위해 정규화를 실시한다.
• 대칭성과 보상 의존성 등을 활용해 사례 연구를 통해 성질의 타당성을 검증하며, 매칭 펜니, 고전적 딜레마, 사냥개-도망자, 로보컵을 대상으로 한다.

실험 결과

연구 질문

• RQ1 다중 에이전트 환경에서 신뢰성 있고 보편적인 평가가 가능한 사회지능의 형식적 정의는 무엇인가?
• RQ2 다중 에이전트 환경이 사회지능 테스트로 유효하기 위해 필요한 필수 성질은 무엇이며, 그 성질이 충분한가?
• RQ3 경쟁적 및 협력적 역학은 공유 환경에서 사회지능 측정에 어떻게 영향을 미치는가?
• RQ4 기본 벤치마크 게임인 고전적 딜레마나 로보컵이 사회지능 테스트로서의 형식적 기준을 얼마나 충족하는가?
• RQ5 환경 설계를 통해 다중 에이전트 시스템에서 사회지능과 일반지능을 어떻게 구분할 수 있는가?

주요 결과

• 사냥개-도망자(추격 게임) 환경은 최대 협력적 예측 점수 1을 기록하여, 예측 성질을 완전히 충족하고 사회지능 테스트로 유효하다는 것을 보여준다.
• 고전적 딜레마 환경은 보상 의존성과 세밀한 분별성 등의 핵심 성질을 충족하지만, 특정 에이전트 구성에서는 비중립성과 예측성에 실패한다.
• 매칭 펜니는 유계성, 상호작용성, 분별성을 충족하지만, 에이전트 상호작용의 전략적 깊이가 부족하여 예측성과 비중립성을 실패한다.
• 패키맨과 로보컵 축구는 비대칭 보상과 체계적인 팀 구조의 부재로 인해 유계성과 예측성 등의 핵심 성질을 다수 실패한다.
• 형식적 프레임워크는 사회지능이 에이전트의 내재적 특성은 아니며, 팀 구조와 보상 배분 등 환경 설계에 의해 결정된다는 점을 드러낸다.
• 예측성, 분별성, 대칭성 등 10개의 형식적 성질을 모두 충족하는 환경여야만 신뢰성 있고 유효한 사회지능 테스트로 간주할 수 있다.