[논문 리뷰] New fixed-circle results related to Fc-contractive and Fc-expanding mappings on metric spaces

Nabil Mlaiki, Nihal Yılmaz Özgür외 1명|arXiv (Cornell University)|2021. 01. 26.

Fixed Point Theorems Analysis참고 문헌 27인용 수 13

한 줄 요약

이 논문은 거리공간 위에서 고정원과 고정원판을 보장하는 새로운 자기사상 클래스인 $F_c$-수축 및 $F_c$-확장 사상들을 도입한다. 이는 고전적 고정점 이론을 일반화한다. $F_c$-함수를 포함하는 새로운 수축 조건을 정의함으로써, 저자들은 이러한 사상에 의해 특정 원 또는 원판이 불변임을 증명하며, 신경망 활성화 함수에 적용 가능한 기하학적 통찰을 제공한다.

ABSTRACT

The fixed-circle problem is a recent problem about the study of geometric properties of the fixed point set of a self-mapping on metric (resp. generalized metric) spaces. The fixed-disc problem occurs as a natural consequence of this problem. Our aim in this paper, is to investigate new classes of self-mappings which satisfy new specific type of contraction on a metric space. We see that the fixed point set of any member of these classes contains a circle (or a disc) called the fixed circle (resp. fixed disc) of the corresponding self-mapping. For this purpose, we introduce the notions of an $F_{c}$-contractive mapping and an $F_{c}$-expanding mapping. Activation functions with fixed circles (resp. fixed discs) are often seen in the study of neural networks. This shows the effectiveness of our fixed-circle (resp. fixed-disc) results. In this context, our theoretical results contribute to future studies on neural networks.

연구 동기 및 목표

• 자기사상의 고정점이 유일하지 않은 경우 형성되는 기하학적 구조—특히 원과 원판—을 연구함으로써 고정점 이론을 확장한다.
• 기존의 수축 원리에 존재하는 격차를 메우기 위해 고립된 고정점이 아닌 고정원 또는 고정원판을 보장하는 새로운 사상 클래스를 도입한다.
• 신경망에서 고정원을 갖는 활성화 함수가 안정적인 네트워크 행동을 모델링할 수 있도록 이론적 기초를 제공한다.
• 기존의 고정원 정리들을 $F_c$-함수를 기반으로 한 새로운 함수적 프레임워크를 통해 일반화한다.
• 다수의 사상에 대해 공통 고정원이 존재할 수 있는지 탐색하고, 일반화된 거리공간인 $M_s$-거리공간으로 결과를 확장한다.

제안 방법

• 특정 단조성 및 극한 조건을 만족하는 함수 $F_c:\mathbb{R}^+ \to \mathbb{R}$를 통해 $F_c$-수축 사상의 개념을 도입한다.
• 거리 $d(u, fu)$와 함수 $\varphi(u) = d(u, u_0)$를 포함하는 $F_c$-수축 조건을 정의하여, 고정원 $C_{u_0, \rho}$로의 수렴을 보장한다.
• $F_c$-수축 사상과 쌍대적인 개념으로 $F_c$-확장 사상의 개념을 제안하며, 역방향 부등식을 사용하여 고정원 불변성을 보장한다.
• $C_{u_0, \rho}$가 고정원이 되는 충분한 조건을 수립한다. 이는 $d(fu, u_0) \geq \rho$ (수축의 경우) 또는 $d(fu, u_0) \leq \rho$ (확장의 경우)와 $F_c$-부등식을 조합하여 제공한다.
• 결과를 신경망의 활성화 함수에 적용하여, ReLU와 같은 함수가 제안된 프레임워크 하에서 고정원 행동를 보일 수 있음을 보여준다.
• $M_s$-거리공간으로 이론을 확장하기 위해 원을 $m_s(u_0, u, u) - m_{s_{u_0,u,u}} = \rho$를 통해 정의하고, 이러한 공간에서 $F_c$-유형 조건 하에 고정원 존재성에 대한 열린 질문을 제기한다.

실험 결과

연구 질문

• RQ1 어떤 조건에서 $F_c$-수축 또는 $F_c$-확장 사상이 거리공간 내 전체 원 $C_{u_0, \rho}$를 고정하는가?
• RQ2 제안된 $F_c$-조건을 사용하여 신경망에서 일반적으로 사용되는 활성화 함수의 고정원을 특성화할 수 있는가?
• RQ3 두 개 이상의 자기사상이 공통 고정원을 공유하기 위한 필수 및 필요조건은 무엇인가?
• RQ4 $M_s$-거리공간으로 고정원 정리를 일반화할 수 있는가? 그리고 $F_c$-유형 조건이 이러한 공간에서 고정원 존재성을 보장하는가?
• RQ5 고정원 구조는 순환 신경망의 안정성과 수렴성에 어떤 영향을 미치는가?

주요 결과

• 논문은 자기사상 $f$가 모든 $u \in C_{u_0, \rho}$에 대해 $d(u, fu) \leq \varphi(u) - \varphi(fu)$ 및 $d(fu, u_0) \geq \rho$ 를 만족할 경우, $C_{u_0, \rho}$가 $f$의 고정원임을 증명하며, 이는 정리 1.1을 일반화한다.
• 특정 조건 하에서 $F_c(d(fu, u)) \geq F_c(d(u, u_0)) + \tau$ (일부 $\tau > 0$) 를 만족하는 $F_c$-수축 조건이 도입되며, 이는 $C_{u_0, \rho}$가 고정원이 되도록 보장한다.
• $F_c$-확장 사상의 경우, $d(fu, u_0) \leq \rho$ 와 함께 $F_c(d(fu, u)) \geq F_c(d(u, u_0)) + \tau$ 를 만족하면 $C_{u_0, \rho}$가 고정원이 된다.
• ReLU 활성화 함수가 $L = 0$ 일 때 고정원 $C_{u_0, \rho} = \{0, 2u_0\}$에 대해 $F_c$-수축 조건을 만족함을 보여주며, 이는 그 고정원 행동을 확인한다.
• 논문은 고정원 $C_{u_0, \rho}$의 중심 $u_0$가 사상 $f$의 고정점이기도 하다는 것을 증명한다. 즉, $fu_0 = u_0$이다.
• $M_s$-거리공간에서 $F_c$-유형 조건 하에 고정원 존재성에 대한 열린 문제를 제기하며, 이는 $m_s(u, fu, f^2u) \leq k m_s(u_0, u, fu)$ 와 $t > 0$ 에 대한 $F$-부등식을 포함한다.