[논문 리뷰] Visual Information flow in Wilson-Cowan networks

Alexander Gómez-Villa, Marcelo Bertalmı́o외 1명|PubMed|2019. 07. 30.

Visual perception and processing mechanisms참고 문헌 67인용 수 4

한 줄 요약

이 논문은 다변량 총상관도를 사용하여 심리물리적으로 조정된 윌슨-코언 네트워크가 망막-V1 경로를 모델링할 때의 통신 효율성을 분석한다. 비록 독립성 최적화가 명시적으로 이루어지지 않았음에도 불구하고, 네트워크는 비선형 국소 대비 및 방향성 필터링을 통해 재중복을 크게 감소시킴을 보여주며, 이는 효율적 코딩 가설과의 일치를 확인하고 영상 압축 분야에서의 유용성을 시사한다.

ABSTRACT

In this paper, we study the communication efficiency of a psychophysically tuned cascade of Wilson-Cowan and divisive normalization layers that simulate the retina-V1 pathway. This is the first analysis of Wilson-Cowan networks in terms of multivariate total correlation. The parameters of the cortical model have been derived through the relation between the steady state of the Wilson-Cowan model and the divisive normalization model. The communication efficiency has been analyzed in two ways: First, we provide an analytical expression for the reduction of the total correlation among the responses of a V1-like population after the application of the Wilson-Cowan interaction. Second, we empirically study the efficiency with visual stimuli and statistical tools that were not available before <i>1</i>) we use a recent, radiometrically calibrated, set of natural scenes, and <i>2</i>) we use a recent technique to estimate the multivariate total correlation in bits from sets of visual responses, which only involves univariate operations, thus giving better estimates of the redundancy. The theoretical and the empirical results show that, although this cascade of layers was not optimized for statistical independence in any way, the redundancy between the responses gets substantially reduced along the neural pathway. Specifically, we show that <i>1</i>) the efficiency of a Wilson-Cowan network is similar to its equivalent divisive normalization model; <i>2</i>) while initial layers (Von Kries adaptation and Weber-like brightness) contribute to univariate equalization, and the bigger contributions to the reduction in total correlation come from the computation of nonlinear local contrast and the application of local oriented filters; and <i>3</i>) psychophysically tuned models are more efficient (reduce more total correlation) in the more populated regions of the luminance-contrast plane. These results are an alternative confirmation of the efficient coding hypothesis for the Wilson-Cowan systems, and, from an applied perspective, they suggest that neural field models could be an option in image coding to perform image compression.<b>NEW & NOTEWORTHY</b> The Wilson-Cowan interaction is analyzed in total correlation terms for the first time. Theoretical and empirical results show that this psychophysically tuned interaction achieves the biggest efficiency in the most frequent region of the image space. This is an original confirmation of the efficient coding hypothesis and suggests that neural field models can be an alternative to divisive normalization in image compression.

연구 동기 및 목표

• 다변량 총상관도를 통한 신경집단 반응의 재중복 측정을 기반으로 윌슨-코언 네트워크의 통신 효율성을 분석하는 것.
• 심리물리적으로 조정된 윌슨-코언 모델이 망막-V1 경로에서 효율적 코딩 가설이 예측한 바와 같이 재중복을 감소시키는지 평가하는 것.
• 윌슨-코언 네트워크의 재중복 감소 성능을 그에 상응하는 나눗셈 정규화 모델과 비교하는 것.
• 정확한 통계적 추정을 통해 개별 처리 단계(예: 대비, 방향성 필터링 등)가 총상관도 감소에 기여하는 정도를 평가하는 것.
• 정보이론적 효율성을 정량화함으로써 신경장 모델이 영상 압축에 어떻게 활용될 수 있는지 탐색하는 것.

제안 방법

• 연구는 망막-V1 경로를 모델링하기 위해 동일한 선형+비선형 모듈 4단계의 연쇄 구조를 사용하며, 최종 비선형성은 등가 윌슨-코언 모델로 대체된다.
• 윌슨-코언 역학은 나눗셈 정규화와의 정 steady-state 등가성에서 유도된 매개변수를 가진 미분방정식 시스템으로 정의되며, 자가감쇠(α), 상호작용 행렬(W), 포화 함수(f(x) = c·x^γ) 포함.
• 반사율이 校정된 자연 풍경 데이터베이스를 사용하여 실제적인 시각 자극을 확보하고 반응 분석에 활용한다.
• 최근 개발된 다변량 정규화 기법을 적용하여 단변량 연산만으로도 신경 반응에서 총상관도(비트 단위)를 추정함으로써, 다변량 밀도 추정이 필요 없이 정확한 재중복 측정이 가능하다.
• 지역 신호 변형을 모델링하기 위해 변환의 자코비안을 계산하며, 이는 재중복의 정보이론적 분석에 핵심적이다.
• 이론적 분석을 통해 윌슨-코언 변환 후 총상관도 감소에 대한 해석적 표현을 유도하고, 자연 이미지 자극을 사용한 실험적 검증을 수행한다.

실험 결과

연구 질문

• RQ1 윌슨-코언 네트워크는 망막-V1 경로를 따라 신경집단 반응의 다변량 총상관도를 어느 정도 감소시키는가?
• RQ2 윌슨-코언 모델의 재중복 감소 성능은 그에 상응하는 나눗셈 정규화 모델과 비교해 어떻게 되는가?
• RQ3 어느 처리 단계(예: 폰-크라이스, 대비, 방향성)가 총상관도 감소에 가장 기여하는가?
• RQ4 심리물리적으로 조정된 모델은 밝기-대비 평면의 다양한 영역에서 재중복 감소 효율성이 더 높은가?
• RQ5 정보이론적 효율성에 기반해 윌슨-코언과 같은 신경장 모델이 영상 압축에 효과적으로 활용될 수 있는가?

주요 결과

• 윌슨-코언 네트워크는 명시적인 통계적 독립성 최적화 없이도 신경 경로 전반에 걸쳐 총상관도를 크게 감소시킴을 확인하였다.
• 윌슨-코언 모델의 통신 효율성은 재중복 감소 측면에서 등가 나눗셈 정규화 모델과 유사한 성능을 보였다.
• 비선형 국소 대비 계산과 국소 방향성 필터링이 폰-크라이스 적응과 같은 단변량 등가 단계보다 재중복 감소에 더 크게 기여하였다.
• 심리물리적으로 조정된 모델은 밝기-대비 평면에서 더 많은 데이터가 분포한 영역에서 더 많은 총상관도를 감소시켜 자연 자극 통계 하에서 높은 효율성을 나타내었다.
• 다변량 정규화 기반 추정기법을 사용함으로써 다변량 밀도 추정의 이전 한계를 극복하고 단변량 기반으로 정확한 총상관도 추정이 가능했다.
• 결과는 윌슨-코언 신경장 모델의 맥락에서 효율적 코딩 가설에 강력한 지지를 제공하며, 생물학적으로 영감을 받은 영상 압축 분야에서의 잠재적 응용 가능성을 시사한다.