[논문 리뷰] A Formal Approach to Modeling the Cost of Cognitive Control

Kayhan Özcimder, Biswadip Dey외 5명|arXiv (Cornell University)|2017. 05. 31.

Game Theory and Applications참고 문헌 12인용 수 5

한 줄 요약

이 논문은 신경망에서 인지적 제어 비용을 형식화한 프레임워크를 제안하며, 제어 편향을 측정하는 강도 비용(intensity cost)과 경쟁 과정 간 간섭을 측정하는 상호작용 비용(interaction cost)을 구분한다. 이 방법은 확률적 모델링과 그래프 이론을 활용하여 최적의 제어 정책을 도출하며, 다중 작업 수행의 가능성이 제어 편향과 간섭 수준에 따라 달라지며, 경계 조건에서는 성능 저하를 정확히 예측하기 위해 상호작용 비용을 도입할 필요가 있음을 드러낸다.

ABSTRACT

This paper introduces a formal method to model the level of demand on control when executing cognitive processes. The cost of cognitive control is parsed into an intensity cost which encapsulates how much additional input information is required so as to get the specified response, and an interaction cost which encapsulates the level of interference between individual processes in a network. We develop a formal relationship between the probability of successful execution of desired processes and the control signals (additive control biases). This relationship is also used to specify optimal control policies to achieve a desired probability of activation for processes. We observe that there are boundary cases when finding such control policies which leads us to introduce the interaction cost. We show that the interaction cost is influenced by the relative strengths of individual processes, as well as the directionality of the underlying competition between processes.

연구 동기 및 목표

• 단일 작업 모델을 넘어서 다중 작업 상황에서의 인지적 제어 비용을 형식화하기 위해.
• 간섭이 존재하는 상황에서도 원하는 작업 반응을 달성하기 위해 필요한 제어 노력(강도 비용)을 정량화하기 위해.
• 네트워크 아키텍처 내 과정 간의 간섭을 측정하기 위한 지표(상호작용 비용)를 개발하기 위해.
• 자신의 작업을 동시에 수행할 수 없는 경계 조건을 규명하고, 이러한 경우 간섭으로 인해 성능 저하가 발생하므로 새로운 비용 구성 요소가 필요함을 밝히기 위해.
• 비용 지표를 기반으로 과정을 반사적, 자동적, 제어적 과정으로 공식적으로 분류할 수 있도록 하기 위해.

제안 방법

• 입력, 출력, 가중치 행렬을 갖는 신경망 프레임워크를 사용하여 제어를 추가 편향을 통해 적용한다.
• 강도 비용을 목표 반응 확률을 달성하기 위해 필요한 제어 편향의 크기로 정의하며, 이는 편향과 활성화 사이의 확률적 관계에서 유도된다.
• 자원 제약 조건 하에서 특정 활성화 확률을 달성하기 위해 필요한 최소 제어 편향을 결정하는 최적화 문제를 설정한다.
• 상호작용 비용을 상대적 과정 강도와 연결 방향성에 기반한 연속적 지표로 도입하여 과정 간의 간섭을 정량화한다.
• 작업 네트워크를 모델링하고 다양한 구성에서의 간섭 패턴을 시뮬레이션하기 위해 그래프 이론적 표현을 사용한다.
• 시뮬레이션을 통해 상호작용 비용이 비대칭 간섭 상황에서 특히 성능 저하를 정확히 예측함을 확인한다.

실험 결과

연구 질문

• RQ1 다중 작업 신경망 아키텍처에서 인지적 제어 비용을 어떻게 형식적으로 정량화할 수 있는가?
• RQ2 충분한 제어 편향이 존재함에도 불구하고 원하는 작업 반응을 달성하지 못하는 조건는 무엇이며, 이러한 조건은 어떻게 모델링할 수 있는가?
• RQ3 과정 간의 간섭 강도와 방향성이 전체 작업 성능에 미치는 영향는 어떠한가?
• RQ4 상호작용 비용은 네트워크 시스템 내 간섭 수준을 예측하기 위한 연속적 지표로 기능할 수 있는가?
• RQ5 강도 비용, 상호작용 비용, 그리고 병렬 작업 수행의 가능성 사이의 관계는 어떠한가?

주요 결과

• 강도 비용 함수는 제어 편향과 원하는 반응을 달성할 확률 사이의 관계를 형식화하며, 주어진 성능 목표 하에서 최소 편향을 최적화할 수 있도록 한다.
• 어떤 경계 조건에서는 어떤 제어 편향도 원하는 반응을 달성할 수 없으며, 이는 간섭으로 인한 본질적 비가능성으로 인해 상호작용 비용을 도입할 필요가 있음을 시사한다.
• 상호작용 비용은 경쟁 과정 간의 상대적 강도와 간섭 방향성에 영향을 받으며, 비대칭 간섭 패턴은 더 큰 성능 저하를 초래한다.
• 시뮬레이션 결과 상호작용 비용이 다중 작업 상황에서 성능 저하를 정확히 예측함을 확인하였으며, 특히 한 과정이 다른 과정에 강하게 간섭할 경우 두드러진다.
• 이 모델은 과정을 공식적으로 분류할 수 있도록 하며, 반사적 과정은 비용이 없고, 자동 과정은 강도 비용만을 부담하며, 제어 과정은 강도 비용과 상호작용 비용을 모두 부담한다.
• 이 프레임워크는 공유 표현과 병렬 처리 능력 사이의 근본적인 상충 관계를 드러내며, 표현을 분리하면 상호작용 비용은 감소하지만 강도 비용은 증가할 수 있음을 보여준다.